Ajuste fino de FunctionGemma en TPU para crear un entrenador de fitness virtual en 10 minutos por 0,50 dólares

Alvaro Moran ha realizado un ajuste fino del modelo FunctionGemma de 270 millones de parámetros en un TPU v5litepod-8 de Google Cloud para desarrollar un entrenador de fitness virtual que realiza llamadas a funciones para obtener datos de un reloj Garmin, como pasos, sueño o frecuencia cardíaca. El proceso de entrenamiento se completó en aproximadamente 10 minutos con un coste de 0,50 dólares, gracias a optimizaciones específicas para TPU como el padding a múltiplos de la longitud máxima y la configuración FSDP v2 con XLA. El modelo ajustado reduce drásticamente las alucinaciones en comparación con el modelo base, mejorando la precisión en las llamadas a funciones. Se proporcionan el código completo en GitHub, el modelo fine-tuned y el dataset sintético en Hugging Face. Este proyecto destaca la rentabilidad y rapidez del fine-tuning en TPU para aplicaciones prácticas de IA con modelos pequeños.