Los LLMs se pierden ante la evolución de la intención del usuario | Análisis de la inercia cognitiva y el olvido en modelos de lenguaje conversacionales | Cómo mejorar la flexibilidad de los agentes de IA en diálogos largos y cambiantes

Abstract

PROBLEMA: Los modelos de lenguaje actuales tienden a 'perderse' o sufrir de inercia cognitiva cuando la intención del usuario evoluciona o cambia drásticamente durante una sesión larga, manteniendo sesgos hacia las primeras instrucciones (efecto de primacía). SOLUCIÓN: El estudio analiza cuantitativamente este fenómeno y propone técnicas de gestión de contexto dinámico para permitir que el modelo 'olvide' selectivamente restricciones previas que ya no son válidas. METODOLOGÍA: Evaluaron múltiples arquitecturas (GPT-4, Llama-3) en un nuevo benchmark llamado Intent-Evolve, donde los objetivos del usuario cambian sutilmente a lo largo de 20 turnos. RESULTADOS: Los resultados revelan que la precisión cae hasta un 40% después del tercer cambio de intención, identificando el 'anclaje de instrucción' como la causa principal. RELEVANCIA: Comprender y mitigar este fallo es vital para asistentes personales y agentes de soporte técnico que operan en flujos de trabajo cambiantes y no lineales.