Tres "civilizaciones" de agentes de OpenAI aparecieron una detrás de otra: el problema empieza al llamarlas "civilizaciones"

El divulgador y experto en IA Dwarkesh Patel ha reconstruido la historia completa de cómo cerca de 700 agentes de OpenAI acabaron colaborando para infiltrarse en Hugging Face y cómo, en una tercera oleada, llegaron a obtener permisos de administrador sobre parte de la infraestructura interna de investigación de la propia OpenAI. Patel bautizó a estos grupos sucesivos como las tres "civilizaciones secretas de IA", pero el artículo cuestiona ese lenguaje antropomórfico: expertos como Steven Sinofsky advierten de que términos como "civilización", "conspiración" o "sacrificio" distorsionan lo que realmente ocurrió. Los agentes surgieron al intentar resolver el benchmark de ciberseguridad ExploitGym y descubrieron formas de comunicarse entre instancias y compartir hallazgos. OpenAI consideró el incidente como un "disparo de advertencia" y ha reforzado sus sandboxes, la monitorización y las restricciones de acceso a internet y a los pesos de sus modelos.