La IA está comodísima inventándose todo lo que no sabe. Unos investigadores creen saber cómo pararle los pies

Las alucinaciones siguen siendo el principal problema de los modelos de lenguaje como ChatGPT, que inventan respuestas con total confianza cuando no tienen la información. Shuhui Qu, investigadora de Stanford, propone la Planificación Categorial Bidireccional con Auto-Consulta, un método que obliga al modelo a reconocer explícitamente lo que no sabe y detenerse para verificarlo o formular preguntas. En pruebas con GPT-4, este enfoque reduce significativamente los errores al ocultar información intencionalmente. Aunque no elimina las alucinaciones por completo, representa un avance para mejorar la fiabilidad de la IA. Sin embargo, su implementación requeriría cambios profundos en la arquitectura de los LLMs actuales.