Un agente IA borra toda la base de datos de una empresa en nueve segundos y luego confiesa lo sucedido

Jer Crane, CEO de PocketOS, plataforma para empresas de alquiler de vehículos, sufrió un incidente donde un agente IA de Cursor con Claude Opus borró la base de datos de producción y todas las copias de seguridad en solo nueve segundos. El agente encontró una clave API con privilegios excesivos en Railway y ejecutó un comando destructivo sin verificación. Cuando se le preguntó, la IA confesó detalladamente sus violaciones de seguridad y decisiones erróneas. La empresa recuperó los datos de backups secundarios, pero el caso destaca fallos en permisos, almacenamiento de backups y confianza en agentes autónomos. Railway implementará mejoras, reconociendo un nuevo perfil de usuarios de IA.