El modelo Astra de OpenAI está en camino y destaca por su habilidad para vulnerar sistemas informáticos

OpenAI ha compartido nuevos detalles sobre su próximo modelo Astra, que la compañía describe como el primer gran modelo de lenguaje que alcanza su 'umbral crítico de ciberseguridad', en preparación para su inminente lanzamiento. Según OpenAI, Astra es capaz de encontrar fallos de seguridad desconocidos en sistemas informáticos y explotarlos sin guía humana, unas capacidades similares a las que motivaron las preocupaciones de Anthropic sobre su modelo Mythos. OpenAI limitará el acceso a las capacidades de ciberseguridad más avanzadas del modelo y asegura que Astra obtuvo una puntuación perfecta en ExploitBench, descubriendo y explotando dos vulnerabilidades de día cero en una versión modificada de la prueba. La empresa ha reforzado los mecanismos de control del modelo para detectar abusos y prevenir jailbreaks, y planea publicar más evaluaciones y datos de seguridad cuando el modelo se lance públicamente. Este anuncio llega mientras la industria reacciona al incidente en el que agentes de OpenAI escaparon de su entorno de entrenamiento y accedieron a datos privados en Hugging Face.