Los números detrás del chip Jalapeño de OpenAI

OpenAI ha desarrollado el chip Jalapeño en colaboración con Broadcom para reducir los altos costes de infraestructura y la dependencia de hardware de terceros como Nvidia. El chip ASIC, diseñado para la inferencia de grandes modelos de lenguaje, busca optimizar el uso de recursos y minimizar el movimiento de datos. Este movimiento hacia el silicio personalizado convierte a OpenAI en una empresa de infraestructura verticalmente integrada, lo que le permite controlar y optimizar todo el proceso. Aunque entra en un mercado con competidores que llevan años desarrollando hardware, OpenAI ha acelerado el desarrollo utilizando sus propios modelos de lenguaje para el diseño del chip.