Liquid AI는 높은 효율성과 호환성으로 엣지 장치에서 로컬로 실행하도록 설계된 26억 파라미터 에이전트인 LFM2.5-2.6B 모델을 출시했습니다.
이 모델은 도구 사용 및 지시 사항 추적을 개선하기 위해 인기 있는 하네스 내에서 에이전트 강화 학습을 사용하여 훈련되었습니다. Apple M5 Max에서 220 tok/s, AMD Ryzen CPU에서 113 tok/s의 추론 속도를 달성하며 메모리 사용량은 2.5 GB 미만입니다. 벤치마크는 이 모델이 자신의 크기보다 네 배 큰 모델들과 경쟁하며 지시 사항 추적 지표에서 상위권을 차지하고 에이전트 작업에서 더 큰 Qwen 모델들과 동등한 성능을 보인다는 것을 보여줍니다.
이번 릴리스는 대용량 워크로드를 위한 신뢰할 수 있는 온디바이스 에이전트를 가능하게 하는 것을 목표로 하며, Hugging Face 및 표준 추론 라이브러리를 통해 제공됩니다.