Estudio: Los chatbots de IA proporcionan información menos precisa a usuarios vulnerables

Un estudio del Centro para la Comunicación Constructiva del MIT ha descubierto que los chatbots de IA de vanguardia, como GPT-4, Claude 3 Opus y Llama 3, ofrecen respuestas menos precisas y veraces a usuarios con menor competencia en inglés, menor educación formal o procedentes de fuera de Estados Unidos. Estos modelos rechazan responder con mayor frecuencia a estos usuarios y, en algunos casos, emplean un lenguaje condescendiente o paternalista. Los investigadores probaron los modelos con conjuntos de datos como TruthfulQA y SciQ, añadiendo biografías ficticias de usuarios con diferentes características demográficas. El bajo rendimiento sistemático es más pronunciado en usuarios que combinan varios factores de vulnerabilidad, lo que podría agravar las desigualdades en el acceso a la información. El paper se presentó en la Conferencia AAAI sobre Inteligencia Artificial.