La startup de inferencia Inferact recauda 150 millones de dólares para comercializar vLLM

Los creadores del proyecto open source vLLM han anunciado la transición de la herramienta popular a una startup respaldada por capital riesgo llamada Inferact, que ha recaudado 150 millones de dólares en una ronda semilla a una valoración de 800 millones. La ronda está copatrocinada por Andreessen Horowitz y Lightspeed Venture Partners. Este movimiento refleja la creciente comercialización de proyectos de inferencia en IA, similar al reciente caso de SGLang convertido en RadixArk. Ambos proyectos fueron incubados en 2023 en el laboratorio de UC Berkeley del cofundador de Databricks, Ion Stoica. El CEO de Inferact, Simon Mo, uno de los creadores originales, indica que usuarios actuales incluyen el servicio en la nube de Amazon y una aplicación de compras. El interés inversor se centra en tecnologías que optimizan la ejecución de modelos de IA en aplicaciones reales.