Liquid AI, LFM2.5용 DSpark 초안 모델 출시로 추론 가속화
Liquid AI는 출력 품질을 저하시키지 않으면서 추론 속도를 크게 향상시키기 위해 추측 디코딩을 활용하는 자체 LFM2.5 계열의 초안 모델 체크포인트—구체적으로 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B—를 출시했습니다.
Liquid AI는 출력 품질을 저하시키지 않으면서 추론 속도를 크게 향상시키기 위해 추측 디코딩을 활용하는 자체 LFM2.5 계열의 초안 모델 체크포인트—구체적으로 LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B—를 출시했습니다.
LFM2.5 팀은 양자화 인식 증류(Quantization-Aware Distillation, QAD)를 사용하여 훈련된 LFM2.5-230M, LFM2.5-350M, LFM2.5-1.2B-Instruct 및 LFM2.5-2.6B 모델용 업데이트된 4비트 GGUF 체크포인트를 출시했습니다. 이 기법은 고정밀 교사 모델을 양자화된 학생 모델로 증류하여 표준 양자화 과정에서 손실된 정확도를 복원합니다.