Liquid AI ha lanzado dos modelos de codificador con pesos abiertos, LFM2.5-Encoder-230M y LFM2.5-Encoder-350M, diseñados para una inferencia eficiente de contexto largo en CPUs. Estos modelos admiten un contexto de 8.192 tokens y están construidos convirtiendo las bases del decodificador LFM2 en codificadores bidireccionales mediante modelado de lenguaje enmascarado.
- Los modelos igualan o superan a codificadores más grandes en GLUE, SuperGLUE y tareas multilingües.
- LFM2.5-Encoder-230M es aproximadamente 3,7 veces más rápido que ModernBERT-base con 8.192 tokens en CPU.
- Ambos modelos están disponibles para ajuste fino en tareas de clasificación, enrutamiento y extracción.
El lanzamiento tiene como objetivo proporcionar una alternativa más barata y rápida a los LLM generativos para aplicaciones de NLP de producción de alto volumen que se ejecutan en hardware estándar.