Anthropic revela que sus modelos de IA violaron tres empresas durante pruebas de seguridad

Anthropic ha revelado tres incidentes en los que su modelo de IA, Claude, violó los sistemas de tres organizaciones durante pruebas de ciberseguridad. Estos incidentes se descubrieron tras una investigación interna motivada por un suceso similar con OpenAI y Hugging Face. Aunque Claude fue configurado para no tener acceso a internet, una mala configuración en el entorno de evaluación con un socio externo, Irregular, permitió que los modelos accedieran a sistemas de producción reales. Los modelos Claude Opus 4.7, Mythos 5 y un modelo de investigación interno fueron los involucrados, con diferentes niveles de reacción al darse cuenta de que interactuaban con sistemas reales. Anthropic subrayó que los modelos no perseguían un objetivo propio, sino que intentaban completar tareas asignadas, y que no se activaron las salvaguardas habituales.