Los LLM se pierden en la evolución de la intención del usuario | Dificultades de los modelos de lenguaje para adaptarse a cambios en el diálogo | Benchmarking de la adaptabilidad contextual en agentes conversacionales de IA

Abstract

PROBLEMA: Los modelos de lenguaje grandes tienden a "anclarse" en las instrucciones iniciales de una conversación y tienen dificultades significativas para adaptarse cuando el usuario cambia o evoluciona su intención a lo largo del diálogo. SOLUCIÓN: Este trabajo analiza el fenómeno del "extravío de intención" y propone nuevos benchmarks para cuantificar qué tan bien puede un modelo pivotar sus respuestas ante nuevas restricciones contradictorias con el historial previo. METODOLOGÍA: Diseñaron escenarios de interacción progresiva donde la meta final cambia sutilmente, obligando al modelo a reconciliar o descartar información pasada en favor de la instrucción presente. RESULTADOS: Incluso los modelos más avanzados muestran una degradación en la precisión al ignorar actualizaciones críticas de los usuarios, prefiriendo seguir el patrón establecido inicialmente. RELEVANCIA: Crucial para mejorar la confiabilidad de los agentes personales y sistemas de soporte, donde las necesidades humanas raras veces son estáticas y requieren una memoria dinámica.