Los modelos de IA de código abierto alcanzan a los de frontera, pero la brecha de seguridad persiste

Un nuevo informe de SaferAI revela que el modelo de IA de código abierto GLM-5.2 de Z.ai se acerca a las capacidades de los modelos de IA de frontera, como los de OpenAI y Anthropic, pero carece de mitigaciones de seguridad clave. Este hallazgo reaviva la preocupación de que los modelos abiertos potentes puedan superar la gobernanza y las salvaguardias existentes. SaferAI encontró que GLM-5.2 no se negó a ninguna tarea ofensiva cibernética o biológica de doble uso, a diferencia de modelos como Claude Opus 4.7 que sí lo hicieron. Esto subraya el desafío de gestionar los riesgos de la IA de código abierto.