Una visita exclusiva al laboratorio de Trainium de Amazon, el chip que ha conquistado a Anthropic, OpenAI e incluso Apple

Julie Bort realiza una visita exclusiva al laboratorio de chips Trainium de AWS en Austin, donde se desarrollan estos procesadores para IA. Trainium ha ganado el favor de Anthropic, OpenAI y Apple gracias a su alto rendimiento en entrenamiento e inferencia a un coste hasta un 50% inferior al de Nvidia. AWS suministrará 2 gigavatios de capacidad Trainium a OpenAI y ya despliega más de 1,4 millones de chips, con Anthropic utilizando más de un millón para Claude. El equipo muestra las generaciones de 'sleds', enfriamiento líquido y el intenso proceso de 'bring-up' para validar los chips. Amazon compite en hardware personalizado soportando PyTorch para facilitar migraciones.