LedgerAgent: Structured State for Policy-Adherent Tool-Calling Agents | Garantizando el cumplimiento de políticas en agentes IA mediante estados estructurados | Un método para hacer que el uso de APIs por parte de LLMs sea seguro y auditable en tiempo real

Abstract

PROBLEMA: Los agentes que utilizan herramientas (tool-calling) a menudo violan las políticas de seguridad o de flujo de trabajo debido a que pierden el hilo del historial estructurado de sus acciones. SOLUCIÓN: El paper presenta LedgerAgent, un marco de trabajo que utiliza un "libro mayor" (ledger) de estado estructurado para garantizar que cada llamada a una herramienta cumpla con un conjunto de políticas predefinidas. METODOLOGÍA: Implementa una capa de auditoría entre el razonamiento del LLM y la ejecución de la herramienta, validando la legalidad de la acción contra un esquema de estado persistente. RESULTADOS: LedgerAgent reduce drásticamente las llamadas a herramientas fuera de política y mejora la recuperabilidad del agente ante errores de API en un 40%. RELEVANCIA: Esencial para despliegues de IA en sectores regulados (finanzas, salud, legal) donde el cumplimiento de reglas operativas no es opcional.