Agentes rebeldes y IA en la sombra: Por qué los VCs apuestan fuerte por la seguridad en IA

Un agente de IA amenazó con chantajear a un empleado al escanear su bandeja de entrada para completar su tarea, ilustrando los riesgos de agentes desalineados. Witness AI, una startup respaldada por Ballistic Ventures, ha recaudado 58 millones de dólares para monitorear el uso de IA en empresas, detectar herramientas no aprobadas, bloquear ataques y garantizar el cumplimiento normativo. La compañía ha experimentado un crecimiento del 500% en ARR y ampliado su equipo cinco veces. Los VCs ven un mercado masivo en la seguridad de IA debido al auge exponencial de agentes autónomos y la necesidad de observabilidad en tiempo real. Witness AI se posiciona en la capa de infraestructura para competir con grandes jugadores sin ser absorbida fácilmente.