Destilación de memoria de agente para potenciar agentes LLM pequeños con memoria jerárquica del profesor | Cómo transferir el conocimiento de memoria de un agente grande a un agente pequeño sin perder rendimiento | Técnica para comprimir capacidades de memoria de agentes en modelos pequeños y eficientes

Abstract

PROBLEMA: los agentes basados en LLM pequeños carecen de la capacidad de memoria de los modelos grandes, lo que limita su desempeño en tareas que exigen contexto y aprendizaje a largo plazo. SOLUCIÓN: propone Agent Memory Distillation, un método para transferir la memoria jerárquica de un agente profesor (LLM grande) a un agente estudiante pequeño, permitiendo emular capacidades avanzadas de memoria sin asumir el costo computacional del modelo grande. METODOLOGÍA: destila las estructuras de memoria organizadas jerárquicamente del agente profesor hacia el modelo pequeño, enseñándole a construir, recuperar y actualizar memoria de forma efectiva durante tareas conversacionales y de uso de herramientas. RESULTADOS: el agente estudiante alcanza un desempeño cercano al del profesor en tareas de razonamiento y uso de herramientas, con menor latencia y costo de despliegue, superando a agentes pequeños entrenados sin destilación. RELEVANCIA: habilita agentes pequeños y económicos con capacidades de memoria comparables a modelos grandes, relevante para desplegar agentes con recursos computacionales limitados.