Memoria a largo plazo eficiente para agentes LLM mediante consolidación por segmentos semánticos | Cómo hacer que un asistente recuerde conversaciones e interacciones largas sin inflar el coste | Sistema de memoria jerárquica y compacta para tareas de horizonte largo con modelos de lenguaje

Abstract

PROBLEMA: los agentes LLM fallan en tareas de horizonte largo porque carecen de memoria eficiente: guardar todo el historial es caro y ruidoso, mientras que comprimir en resúmenes globales pierde detalles necesarios para responder con precisión; el resultado es una recuperación de contexto degradada y costes que crecen con el tiempo. SOLUCIÓN: LycheeMemory V2 propone una memoria a largo plazo basada en consolidación a nivel de segmento semántico: el historial se divide en segmentos con significado propio, cada uno se resume e indexa por separado, y los segmentos redundantes se fusionan periódicamente para mantener la memoria compacta sin sacrificar detalle. METODOLOGÍA: pipeline de segmentación semántica del historial de interacciones, generación de resúmenes por segmento, índice vectorial para recuperación y consolidación incremental; la evaluación se realiza en benchmarks de diálogo de largo plazo y tareas agénticas con memoria, midiendo precisión de recuperación, coste por consulta y éxito de la tarea final. RESULTADOS: el sistema reporta mejor eficiencia de almacenamiento y recuperación más precisa que las memorias planas de mensajes o los resúmenes globales, con menor coste por consulta conforme crece el historial y sin degradar la consistencia del agente. RELEVANCIA: la memoria a largo plazo es el cuello de botella de los agentes persistentes y de los asistentes RAG conversacionales; consolidar por segmentos semánticos mejora la calidad del contexto recuperado sin inflar el presupuesto de cómputo.