LettucePrevent: Prevención en tiempo real de alucinaciones factuales en RAG

LettucePrevent integra un detector a nivel de token directamente en el bucle de generación de modelos de lenguaje, superando a los modelos de detección de alucinaciones (HDMs) de última generación en inferencia en tiempo real con menor latencia. Un detector numérico basado en expresiones regulares reduce las alucinaciones numéricas en más del 60%. Aunque el detector neuronal logra una reducción significativa en Llama-2-7B, su efectividad depende de la alineación del tokenizador y conlleva una sobrecarga computacional considerable. Este enfoque ofrece una solución prometedora para mitigar las alucinaciones en RAG, con el detector numérico listo para producción.