LFM2.5-Encoders para una inferencia rápida de contexto largo en CPU

Liquid AI ha lanzado LFM2.5-Encoder-230M y LFM2.5-Encoder-350M, dos nuevos modelos codificadores que igualan la calidad de modelos más grandes manteniendo una inferencia rápida con entradas largas, incluso en CPU. Estos modelos ofrecen un contexto de 8.192 tokens y son hasta 3,7 veces más rápidos que ModernBERT-base en CPU para contextos largos. Están diseñados para tareas de comprensión de alto volumen como clasificación, enrutamiento, extracción y puntuación, siendo más eficientes y económicos que los LLM generativos en estos casos.