El fin de la IA secuencial: Cómo los dLLMs ofrecen una velocidad 10 veces mayor

Los modelos de lenguaje grandes (LLMs) actuales generan tokens de forma secuencial, uno a uno, lo que causa un cuello de botella en la velocidad. Inception Labs, una startup de Palo Alto respaldada por inversores como Andrew Ng y Andrej Karpathy, ha desarrollado dLLMs basados en difusión que generan respuestas completas de una vez, hasta 10 veces más rápido sin perder calidad. Han lanzado Mercury, el primer dLLM comercial, ya utilizado por empresas Fortune 200 en codificación y agentes de voz. Los fundadores, expertos en difusión para imágenes, adaptaron la tecnología a datos discretos como el texto. Elon Musk destaca que la difusión podría ser el gran ganador en IA, inspirando a competidores como Google.