Microsoft presenta un método para detectar puertas traseras de agentes dormidos

Investigadores de Microsoft han revelado un método de escaneo para identificar modelos de IA envenenados con agentes dormidos, sin necesidad de conocer el desencadenante ni el resultado previsto. Estos modelos contienen backdoors que permanecen inactivos durante pruebas estándar pero activan comportamientos maliciosos ante frases específicas. El sistema aprovecha fugas de memoria y patrones de atención 'secuestrada' para detectar amenazas en modelos de lenguaje grandes de código abierto. Pruebas en 47 modelos lograron una tasa de detección del 88% sin falsos positivos, superando métodos previos. Esta herramienta es esencial para organizaciones que reutilizan modelos de repositorios públicos, cerrando una brecha clave en la cadena de suministro de IA.