Liquid AI 发布了两个开源权重的编码器模型 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M，旨在实现 CPU 上高效的长上下文推理。这些模型支持 8,192 个 token 的上下文，并通过掩码语言建模将 LFM2 解码器主干转换为双向编码器。

  • 这些模型在 GLUE、SuperGLUE 和多语言任务上的表现持平或优于更大的编码器。
  • 在 CPU 上处理 8,192 个 token 时，LFM2.5-Encoder-230M 的速度约为 ModernBERT-base 的 3.7 倍。
  • 这两个模型均可用于分类、路由和提取任务的微调。

此次发布旨在为标准硬件上运行的高吞吐量生产型 NLP 应用提供比生成式 LLM 更便宜、更快的替代方案。