Liquid AI는 CPU에서 효율적인 긴 컨텍스트 추론을 위해 설계된 두 개의 오픈 가중치 인코더 모델인 LFM2.5-Encoder-230M 및 LFM2.5-Encoder-350M을 출시했습니다. 이 모델들은 8,192개의 토큰 컨텍스트를 지원하며, 마스킹 언어 모델을 사용하여 LFM2 디코더 백본을 양방향 인코더로 변환하여 구축되었습니다.

  • 이 모델들은 GLUE, SuperGLUE 및 다국어 작업에서 더 큰 인코더들과 동등하거나 그 이상의 성능을 보입니다.
  • CPU에서 8,192개의 토큰 처리 시 LFM2.5-Encoder-230M은 ModernBERT-base보다 약 3.7배 빠릅니다.
  • 두 모델 모두 분류, 라우팅 및 추출 작업을 위한 파인 튜닝에 사용할 수 있습니다.

이번 릴리스는 표준 하드웨어에서 실행되는 대용량 생산용 NLP 애플리케이션을 위해 생성형 LLM보다 저렴하고 빠른 대안을 제공하기 위한 것입니다.