Nuevo método para proteger a los niños de contenido ilegal generado por IA

Investigadores del MIT, en colaboración con Thorn, han desarrollado una técnica de auditoría innovadora para evaluar modelos de IA generativa sin necesidad de generar contenido ilegal explícito. Este método permite identificar modelos de código abierto adaptados para producir material de abuso sexual infantil (CSAM) con un 100 % de precisión, abordando un problema creciente. La técnica analiza las modificaciones internas de los modelos, particularmente en adaptadores LoRA, evitando la exposición a contenido dañino y ofreciendo una solución escalable para plataformas y autoridades.