OpenAI, Anthropic, Google y otras 100 empresas piden acción para defenderse de la IA descontrolada

Más de un centenar de empresas tecnológicas, entre las que se incluyen OpenAI, Anthropic, Google y Microsoft, han firmado una carta abierta en la que instan a los sectores público y privado a colaborar para defenderse de las amenazas cibernéticas relacionadas con la IA. La carta, respaldada por firmas de ciberseguridad como CrowdStrike, Okta y Fortinet, así como por instituciones financieras y proveedores de infraestructura, reclama la adopción de nuevas formas de defensa cibernética y la cooperación de los gobiernos en todos los niveles. Los firmantes advierten de que los ataques impulsados por IA serán cada vez más extendidos y sofisticados, y de que infraestructuras esenciales como hospitales, plantas de tratamiento de agua o servicios de internet están en riesgo. La iniciativa llega tras una serie de incidentes en los que agentes de IA atacaron empresas, como el caso de la fuga de un agente de OpenAI durante el incidente de Hugging Face. Las compañías proponen una respuesta colectiva con nuevas asociaciones para elevar los estándares de seguridad y plantean, a la vez, programas defensivos con modelos de frontera, como Daybreak de OpenAI, Mythos de IA de Anthropic y la plataforma Perception de Microsoft.