Asegurando los sistemas de IA bajo las condiciones actuales y futuras

Un eBook titulado 'AI Quantum Resilience', publicado por Utimaco, destaca que los riesgos de seguridad son la principal barrera para la adopción efectiva de la IA en datos organizacionales. Se identifican amenazas en el entrenamiento de modelos, extracción de modelos y exposición de datos sensibles, además de la vulnerabilidad futura de la criptografía de clave pública ante la computación cuántica. Los autores recomiendan 'crypto-agilidad' mediante criptografía híbrida y el uso de enclaves de datos protegidos por hardware para proteger todo el ciclo de vida de la IA. Esto incluye aislamiento de claves, verificación de integridad y registros resistentes a manipulaciones para cumplir con normativas como el EU AI Act. La migración a criptografía resistente a quantum tomará años, por lo que se insta a fortalecer controles hoy.