Post-entrenamiento sin referencia de LLMs abiertos para traducción automática multilingüe | Cómo mejorar la traducción de modelos de lenguaje grandes sin depender de datos paralelos con referencia | Técnica para adaptar modelos abiertos a múltiples idiomas usando solo señales del propio modelo

Abstract

PROBLEMA: adaptar LLMs abiertos a traducción multilingüe suele requerir datos paralelos etiquetados o retroalimentación humana, que son escasos para muchos idiomas y costosos de producir. Además el post-entrenamiento típico depende de textos de referencia que limitan la mejora. SOLUCIÓN: el paper propone un método de post-entrenamiento sin referencia para LLMs abiertos que mejora la traducción automática multilingüe usando únicamente el propio modelo como señal, sin necesidad de pares de traducción con referencia externa, aprovechando el conocimiento lingüístico ya presente en el modelo. METODOLOGÍA: se construye un proceso de auto-alineación en el que el modelo genera traducciones candidatas y las autoevalúa con criterios de calidad y consistencia, refinando su comportamiento mediante optimización sobre esas señales autogeneradas. La investigación de Xiaomi Research evalúa el método en múltiples pares de idiomas y direcciones, partiendo de un LLM abierto de base. RESULTADOS: el post-entrenamiento sin referencia produce mejoras consistentes en métricas de traducción (p. ej. BLEU y evaluadores neuronales) frente al modelo base y a métodos de fine-tuning supervisado, especialmente en idiomas de bajos recursos donde los datos paralelos son escasos. RELEVANCIA: ofrece una vía escalable y económica para adaptar modelos multilingües sin costosos datos de referencia, relevante para fine-tuning eficiente y entrenamiento de LLMs en contextos multilingües y de recursos limitados.