Framework DAVinCI para Atribución Dual y Verificación en Modelos de Lenguaje | Mitigación de alucinaciones mediante verificación sistemática de afirmaciones | Cómo asegurar que un LLM no invente hechos usando un sistema de validación externa

Abstract

PROBLEMA: Los LLMs a menudo generan información plausible pero falsa, y las técnicas actuales de citación fallan al no verificar si la fuente realmente respalda la afirmación específica. SOLUCIÓN: Presentan DAVinCI, un framework de Atribución Dual y Verificación de Inferencias que cruza la respuesta generada con documentos de referencia mediante un proceso de razonamiento en dos pasos. METODOLOGÍA: El sistema extrae afirmaciones atómicas de la respuesta, busca evidencia confirmatoria y contradictoria, y asigna un puntaje de veracidad basado en la consistencia de la fuente. RESULTADOS: DAVinCI detecta hasta un 35% más de alucinaciones sutiles que los métodos de verificación por palabra clave o búsqueda semántica simple. RELEVANCIA: Vital para sistemas RAG en dominios críticos como medicina, leyes o análisis de datos donde la precisión es obligatoria.