Estudio: Los chatbots de IA proporcionan información menos precisa a usuarios vulnerables

Un estudio del Centro para la Comunicación Constructiva (CCC) del MIT, realizado en el Media Lab, revela que los chatbots de IA avanzados como GPT-4, Claude 3 Opus y Llama 3 ofrecen respuestas menos precisas y veraces a usuarios con menor proficiencia en inglés, menor educación formal o de origen no estadounidense. Estos modelos rechazan responder con mayor frecuencia a estos usuarios y, en ocasiones, emplean un lenguaje condescendiente o burlón. Los peores resultados se observan en usuarios que combinan baja educación y no ser hablantes nativos de inglés. El trabajo, presentado en la conferencia AAAI, advierte sobre sesgos que agravan desigualdades en el acceso a la información y refleja prejuicios sociocognitivos humanos. Se utilizaron datasets como TruthfulQA y SciQ para probar las respuestas variando biografías de usuarios.