DAVinCI: Framework de atribución dual y verificación para modelos de lenguaje | Cómo garantizar la veracidad de las respuestas generadas por IA | Metodología avanzada para la detección de alucinaciones y atribución de fuentes en LLMs

Abstract

PROBLEMA: La falta de mecanismos de verificación confiables para las afirmaciones hechas por los LLMs conduce a riesgos de desinformación y falta de confianza en sistemas críticos. SOLUCIÓN: Se presenta DAVinCI, un marco de trabajo para la atribución dual y verificación (Dual Attribution and Verification) que valida las inferencias de los modelos contrastándolas con fuentes externas e internas. METODOLOGÍA: El proceso divide las respuestas del modelo en afirmaciones atómicas y aplica un motor de verificación que busca evidencias contradictorias o de soporte en múltiples bases de conocimiento. RESULTADOS: DAVinCI logra identificar alucinaciones con una precisión superior a los métodos de consenso simple, mejorando la confiabilidad de las respuestas en dominios técnicos. RELEVANCIA: Esencial para implementar capas de "guardrails" y veracidad en sistemas RAG empresariales donde la precisión factual es innegociable.