Científicos del MIT investigan el riesgo de memorización en la era de la IA clínica

Científicos del MIT, liderados por Sana Tonekaboni y Marzyeh Ghassemi del Abdul Latif Jameel Clinic for Machine Learning in Health, han desarrollado pruebas para evaluar si los modelos de IA fundacionales entrenados con registros de salud electrónicos desidentificados memorizan y filtran datos sensibles de pacientes. El trabajo, presentado en la conferencia NeurIPS 2025, enfatiza la necesidad de pruebas rigurosas en contexto sanitario para medir el riesgo real de violación de privacidad. Demuestran que los atacantes con más información sobre un paciente aumentan la probabilidad de fugas, siendo especialmente vulnerables aquellos con condiciones únicas. Propone distinguir entre generalización del modelo y memorización a nivel individual para una evaluación precisa del riesgo. Esta investigación busca establecer pasos prácticos antes de lanzar modelos para proteger la confidencialidad médica.