Hugging Face en AMD Instinct MI455X: primeros resultados con Transformers

Hugging Face ha publicado los primeros resultados de sus pruebas con la GPU AMD Instinct MI455X, destacando su impresionante capacidad de memoria de 432 GB de HBM4. Esta colaboración entre Hugging Face y AMD busca optimizar el ecosistema de Hugging Face para el hardware de AMD, integrando Transformers en la infraestructura MI455X y expandiendo el soporte a sistemas Ryzen y Radeon. Los resultados preliminares muestran una tasa de éxito del 99.5% en la suite de pruebas de Transformers con la MI455X, lo que demuestra un rendimiento comparable al de las GPU MI300 y NVIDIA A10. La alta capacidad de memoria de la MI455X permite el manejo de modelos más grandes y un mayor número de solicitudes concurrentes, lo que la convierte en una opción prometedora para despliegues de IA a gran escala.