ZML, la startup francesa, lanza producto gratuito para acelerar la inferencia en chips de IA

La startup francesa ZML, apoyada por Yann LeCun, ha lanzado ZML/LLMD, un software gratuito que busca democratizar la inferencia de modelos de lenguaje grandes (LLM) al permitir que funcionen de manera eficiente en una variedad de chips de IA, incluyendo los de Nvidia, AMD, Google TPU y Apple Metal. Este producto busca romper los silos tecnológicos y reducir los costes asociados a la IA, ofreciendo una alternativa a la dominancia de Nvidia y apoyando a fabricantes de chips europeos emergentes. ZML/LLMD se lanza como producto gratuito para medir su uso antes de la monetización. Aunque tiene competidores como Baseten e Inferact, ZML se diferencia por su ambición de codiseñar silicio y su agilidad como equipo pequeño pero bien financiado.