La IA está comodísima inventándose todo lo que no sabe. Unos investigadores creen saber cómo pararle los pies

Las alucinaciones siguen siendo el principal problema de los modelos de lenguaje como ChatGPT, que inventan respuestas con total seguridad cuando no tienen la información. Shuhui Qu, investigadora de Stanford, propone la Planificación Categorial Bidireccional con Auto-Consulta, un método que obliga al modelo a reconocer explícitamente lo que no sabe y verificar precondiciones antes de avanzar. En pruebas con GPT-4 en tareas como recetas y guías, reduce drásticamente los errores al no permitir suposiciones. Aunque prometedor, su implementación requeriría cambios estructurales en los LLMs actuales, lo que lo hace improbable a corto plazo. Esto podría mejorar la fiabilidad de la IA en aplicaciones reales.