RAGU: Motor GraphRAG multi-paso con LLM compacto adaptado | Recuperación eficiente de información mediante grafos de conocimiento | Cómo construir sistemas RAG precisos con modelos pequeños adaptados a dominios específicos

Abstract

PROBLEMA: Los sistemas GraphRAG actuales suelen ser costosos computacionalmente y dependen de modelos gigantescos (como GPT-4) para la extracción de relaciones, lo que dificulta su despliegue local o en dominios privados. SOLUCIÓN: Se presenta RAGU, un motor GraphRAG multi-paso que utiliza un LLM compacto pero altamente adaptado al dominio para realizar la extracción y el razonamiento sobre grafos. METODOLOGÍA: El motor implementa una técnica de compactación de grafos y una estrategia de recuperación en varias etapas que refina la consulta del usuario antes de buscar en la estructura de nodos. RESULTADOS: RAGU logra una precisión comparable a sistemas basados en modelos de 175B parámetros utilizando un modelo de solo 7B, reduciendo drásticamente los costos operativos y la latencia de respuesta. RELEVANCIA: Vital para empresas que necesitan sistemas de respuesta sobre datos complejos y privados sin depender de APIs de terceros y con alta fidelidad estructural.