Import AI 439: Kernels de IA, entrenamiento descentralizado y representaciones universales

El boletín Import AI 439 destaca KernelEvolve de Facebook, un sistema que utiliza modelos como GPT, Claude y Llama para generar y optimizar kernels para inferencia en hardware heterogéneo, reduciendo el tiempo de desarrollo de semanas a horas y logrando aceleraciones de hasta 17 veces. Epoch AI analiza el rápido crecimiento del entrenamiento descentralizado, con un aumento de 20 veces anual frente a 5 veces en entrenamientos frontier, aunque aún 1000 veces más pequeño, con potencial para expandirse significativamente. Se presenta PostTrainBench, un benchmark que evalúa si LLMs frontier pueden entrenar otros modelos, logrando mejoras del 20-30%. Además, un estudio del MIT muestra que modelos científicos convergen en representaciones universales de la materia al escalar.