La startup francesa ZML lanza un producto gratuito para acelerar la inferencia en chips de IA
La startup francesa ZML, respaldada por Yann LeCun, ha lanzado gratuitamente ZML/LLMD, un software de inferencia que permite a los modelos de lenguaje grandes de código abierto funcionar más rápido en una variedad de chips, incluyendo Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Este lanzamiento busca romper los silos tecnológicos y reducir costes en la ejecución de IA, un ámbito donde la optimización de la inferencia ha cobrado gran importancia. Steeve Morin, fundador de ZML, afirma que su tecnología ofrece una alternativa a la dependencia de un solo proveedor y podría impulsar a fabricantes de chips de IA más pequeños, muchos de ellos europeos. A pesar de la competencia, ZML, con su equipo reducido y financiación de 20 millones de dólares, busca democratizar la IA, aunque su nuevo producto ZML/LLMD no es de código abierto.
