BadWAM: Cuando los modelos de mundo predicen bien pero actúan mal | Análisis de la desalineación entre predicción y acción en agentes | Cómo mejorar la toma de decisiones en World-Action Models

Abstract

PROBLEMA: Existe una discrepancia crítica donde los modelos de mundo pueden predecir correctamente el estado futuro (soñar bien) pero eligen acciones incorrectas para alcanzar ese estado (actuar mal), fenómeno denominado "BadWAM". SOLUCIÓN: El estudio analiza las causas raíz de esta desalineación entre la capacidad predictiva y la competencia ejecutiva, proponiendo un marco de regularización que vincula estrechamente la pérdida de predicción con la utilidad de la acción. METODOLOGÍA: Evaluaron múltiples arquitecturas WAM en entornos simulados complejos, midiendo la correlación entre la precisión del modelo interno y el éxito de la tarea. RESULTADOS: Identificaron que el aprendizaje de representaciones puramente visuales a menudo ignora las affordances críticas para la acción, y propusieron métodos de fine-tuning que corrigen esta deriva. RELEVANCIA: Este trabajo es crucial para mejorar la fiabilidad de agentes robóticos y sistemas de control basados en modelos de lenguaje y visión.