Habilitando modelos de lenguaje pequeños para resolver tareas de razonamiento complejas

Investigadores del MIT CSAIL han desarrollado DisCIPL, un sistema 'self-steering' que dirige modelos de lenguaje pequeños para colaborar en tareas de razonamiento complejas con restricciones, como planificación de itinerarios o presupuestos. Un LLM grande actúa como 'jefe' planificando la estrategia y distribuyendo el trabajo entre modelos más pequeños mediante el lenguaje LLaMPPL. Este enfoque logra mayor precisión que LLMs líderes como GPT-4o, se acerca al rendimiento de o1 y es más eficiente en costo y tiempo. La innovación permite generar respuestas precisas bajo constraints utilizando modelos eficientes y paralelizables.