Liquid AI는 LFM2.5 계열의 세 가지 모델에 대한 DSpark 초안 모델 체크포인트를 출시했습니다: LFM2.5-1.2B-Instruct, LFM2.5-2.6B, 그리고 LFM2.5-8B-A1B입니다. 이러한 드래프터는 기존 타겟 모델에 추론 디코딩 경로를 추가하여, 약 3억 개의 파라미터를 가진 초안 모델이 단일 순전파로 타겟 모델이 검증할 수 있는 9개의 후보 토큰 블록을 제안할 수 있게 합니다.

  • 이 시스템은 모델 출력을 변경하지 않고 H100에서 최대 3.18배 빠른 디코딩과 M4 Max MacBook Pro에서 최대 2.87배 빠른 속도를 제공합니다.
  • 탐욕적 디코딩 하에서 생성된 시퀀스는 타겟 모델 단독으로 실행된 결과와 동일하여 벤치마크 정확도가 변경되지 않음을 보장합니다.
  • DSpark는 DFlash 스타일의 병렬 백본과 마르코프 체인으로 모델링된 경량 순두형 헤드, 그리고 신뢰도 스케줄링 검증자를 결합합니다.
  • 다중 도구 함수 호출 시나리오에서 LFM2.5-2.6B의 평균 지연 시간이 57% 감소하지만, 현재 구현 한계로 인해 MoE 모델은 Apple 실리콘에서 1.18배 향상만 얻습니다.
  • 가중치는 Safetensors 및 GGUF 형식으로 제공되며, llama.cpp와 SGLang에서 출시 당일 지원을 받습니다.

이 기술은 자체 호스팅을 통해 데이터 프라이버시를 유지하면서 로컬 코딩 어시스턴트, 온디바이스 에이전트, 오프라인 코파일럿의 추론 지연 시간을 크게 줄일 수 있게 합니다.