OpenAI adquiere Promptfoo para asegurar sus agentes de IA

OpenAI ha anunciado la adquisición de Promptfoo, una startup de seguridad para IA fundada en 2024 que protege los modelos de lenguaje grandes (LLM) de adversarios en línea. Una vez cerrada la operación, la tecnología de Promptfoo se integrará en OpenAI Frontier, la plataforma empresarial de OpenAI para agentes de IA. Esta adquisición permite realizar red-teaming automatizado, evaluar flujos de trabajo de agentes en busca de vulnerabilidades de seguridad y monitorear actividades por riesgos y cumplimiento normativo. El acuerdo destaca cómo los laboratorios de IA de vanguardia compiten por demostrar que su tecnología es segura para operaciones empresariales críticas. Promptfoo, fundada por Ian Webster y Michael D’Angelo, es utilizada por más del 25% de las compañías Fortune 500 y ha recaudado 23 millones de dólares.