Búsqueda en Árbol de Valores Consciente del Presupuesto para la Optimización de Agentes LLM

Abstract

El paper introduce una metodología de búsqueda en árbol de valores (Value Tree Search) consciente del presupuesto para agentes basados en LLM. La premisa central es que el razonamiento complejo, como el Chain-of-Thought (CoT) o el Tree-of-Thought (ToT), incurre en costos computacionales y de latencia prohibitivos para despliegues a escala. Los autores proponen un algoritmo de poda dinámica que evalúa el valor esperado de los nodos de razonamiento adicionales frente al costo marginal de los tokens. Utilizando un modelo de recompensa entrenado para predecir la probabilidad de éxito de una trayectoria de razonamiento, el sistema decide cuándo 'dejar de pensar' o en qué rama de decisión invertir más recursos de cómputo. En pruebas experimentales, los agentes lograron mantener el 95% del rendimiento de precisión en tareas de resolución de problemas complejos reduciendo el consumo de tokens en un 40%. Es un avance crítico para la viabilidad económica de agentes que deben operar de forma autónoma durante periodos prolongados.