Gestión de Creencias Contextuales en LLMs: ¿Cuándo deben los modelos cambiar de opinión? | Estrategias para manejar contradicciones entre memoria interna y prompts externos | Mejora de la veracidad y el razonamiento crítico en modelos de lenguaje

Abstract

PROBLEMA: Los LLMs a menudo sufren de 'inercia de conocimiento', donde se aferran a información interna desfasada o, por el contrario, aceptan información falsa del prompt demasiado rápido (adulancia). SOLUCIÓN: El estudio propone un sistema de 'Gestión de Creencias Contextuales' que permite al modelo evaluar dinámicamente la fiabilidad de su memoria interna frente a la evidencia presentada en el contexto. METODOLOGÍA: Analizan las activaciones internas de los modelos (probing) para identificar cuándo existe una contradicción y entrenan un módulo de decisión que selecciona la respuesta basándose en un benchmark de 'confianza epistémica'. RESULTADOS: Los modelos equipados con este enfoque mostraron una mejora del 22% en la resolución de conflictos de conocimiento y una reducción significativa en la adopción de alucinaciones inducidas por el usuario. RELEVANCIA: Este trabajo es clave para desarrollar IAs más críticas y veraces, capaces de mantener un equilibrio saludable entre sus conocimientos previos y la información nueva proporcionada en una sesión.