Asegurando los sistemas de IA bajo las condiciones actuales y futuras

Utimaco ha publicado un eBook titulado “AI Quantum Resilience” que identifica los riesgos de seguridad como la principal barrera para la adopción efectiva de la IA en datos organizacionales. Destaca amenazas como la manipulación de datos de entrenamiento, la extracción de modelos y la exposición de datos sensibles durante el entrenamiento o inferencia. Advierte que la criptografía de clave pública actual será vulnerable en los próximos diez años ante la computación cuántica. Recomienda adoptar 'crypto-agilidad' mediante criptografía híbrida post-cuántica y enclaves de hardware protegidos para aislar claves y operaciones sensibles. Estas medidas permiten fortalecer controles en todo el ciclo de vida de la IA, generar logs resistentes a manipulaciones y prepararse para amenazas futuras, apoyando marcos como el EU AI Act.