Evolution Fine-Tuning: Descubrimiento de algoritmos mediante el ajuste de modelos | Aprendizaje de optimización a gran escala en 371 tareas | Cómo los LLMs pueden aprender a optimizar otros sistemas IA

Abstract

PROBLEMA: Tradicionalmente, la optimización de algoritmos se basa en el diseño manual o en costosos procesos de búsqueda evolutiva que no aprovechan el conocimiento previo de los modelos de lenguaje. SOLUCIÓN: Evolution Fine-Tuning (EFT) es un marco de trabajo que entrena modelos para "descubrir" soluciones óptimas a través de 371 tareas de optimización diversas. METODOLOGÍA: Se realiza un fine-tuning multianotado donde el modelo aprende las trayectorias de éxito de algoritmos evolutivos, permitiéndole generalizar a problemas nunca vistos. RESULTADOS: Los modelos ajustados con EFT superan a los optimizadores heurísticos estándar y a otros modelos base en tareas de arquitectura de redes neuronales y problemas combinatorios complejos. RELEVANCIA: Representa un paso hacia la IA que auto-mejora su propio proceso de entrenamiento y estructura algorítmica.