Cómo preparar y remediar un incidente en un sistema de IA

Una nueva investigación de ISACA revela que el 59% de los profesionales de confianza digital no saben cómo detener rápidamente un sistema de IA durante un incidente de seguridad, y solo el 21% puede intervenir en media hora. Esto indica un riesgo de daños irreversibles por sistemas de IA corruptos que operan sin control. Ali Sarrafi, CEO de Kovant, destaca la falta de gobernanza en la implementación de IA en flujos críticos, abogando por una capa de gestión que trate a los agentes IA como empleados digitales con supervisión clara. Solo el 42% confía en analizar incidentes graves, y el 20% no sabe quién es responsable en caso de daños. Es esencial implementar gobernanza desde el inicio para escalar la IA de forma segura y evitar sanciones legales y daños reputacionales.