A Liquid AI lançou dois modelos de codificador com pesos abertos, LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, projetados para inferência eficiente de contexto longo em CPUs. Esses modelos suportam um contexto de 8.192 tokens e são construídos convertendo os backbones do decodificador LFM2 em encoders bidirecionais usando modelagem de linguagem mascarada.

  • Os modelos igualam ou superam encoders maiores no GLUE, SuperGLUE e tarefas multilíngues.
  • O LFM2.5-Encoder-230M é aproximadamente 3,7 vezes mais rápido que o ModernBERT-base com 8.192 tokens em CPU.
  • Ambos os modelos estão disponíveis para ajuste fino em tarefas de classificação, roteamento e extração.

O lançamento visa fornecer uma alternativa mais barata e rápida aos LLMs generativos para aplicações de NLP de produção de alto volume que rodam em hardware padrão.