La Penalización Cognitiva: Análisis de razonamiento Sistema 1 y 2 en SLMs para el borde | Cómo implementar razonamiento complejo en dispositivos de hardware limitado | Optimización de modelos pequeños para consenso descentralizado y toma de decisiones local
Abstract
PROBLEMA: Los modelos de lenguaje pequeños (SLMs) desplegados en dispositivos de borde (edge) a menudo carecen de la capacidad de alternar entre pensamiento intuitivo rápido (Sistema 1) y razonamiento deliberado lento (Sistema 2), lo cual es vital para tareas críticas como el consenso descentralizado. SOLUCIÓN: El paper estudia la 'Penalización Cognitiva', un fenómeno donde la reducción de parámetros afecta desproporcionadamente al razonamiento de Sistema 2, y propone técnicas de ablación para aislar y mejorar estas capacidades en dispositivos locales. METODOLOGÍA: Evaluaron múltiples SLMs en tareas de validación de transacciones y acuerdos de red, midiendo la degradación del razonamiento ante restricciones de hardware. RESULTADOS: Identificaron configuraciones óptimas que permiten a modelos de menos de 2B de parámetros mantener un razonamiento lógico coherente necesario para participar en protocolos de consenso. RELEVANCIA: Es de alta prioridad para la intersección de IA y blockchain, así como para dispositivos IoT que requieren autonomía de decisión sin conexión a la nube.