Memory Decoder a escala: Memoria a largo plazo paramétrica y pre-entrenada | Alternativa escalable al RAG mediante decodificadores de memoria integrados | Arquitectura para integración de conocimiento persistente en LLMs

Abstract

PROBLEMA: Las arquitecturas RAG actuales sufren de latencia y pérdida de contexto al manejar volúmenes masivos de datos, ya que la recuperación es no-paramétrica y a menudo desacoplada. SOLUCIÓN: Introducen 'Memory Decoder at Scale', un componente paramétrico pre-entrenado que actúa como una memoria de largo plazo integrada directamente en el proceso de decodificación del modelo. METODOLOGÍA: Entrenan un decodificador especializado que mapea consultas directamente a un espacio latente de memoria densa, escalando el sistema a miles de millones de entradas. RESULTADOS: Muestra una eficiencia de recuperación significativamente mayor y una mejor integración de hechos históricos en la generación que los sistemas vectoriales estándar. RELEVANCIA: Es un paso vital para dotar a los LLMs de una memoria persistente y coherente que no dependa solo de bases de datos externas.