Liquid AI 发布用于加速推理的 DSpark 草稿模型以支持 LFM2.5
Liquid AI 已为其 LFM2.5 系列发布了草稿模型检查点——具体包括 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B——这些模型利用推测解码在确保输出质量的同时显著提升推理速度。
Liquid AI 已为其 LFM2.5 系列发布了草稿模型检查点——具体包括 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B——这些模型利用推测解码在确保输出质量的同时显著提升推理速度。
LFM2.5 团队发布了针对 LFM2.5-230M、LFM2.5-350M、LFM2.5-1.2B-Instruct 和 LFM2.5-2.6B 模型的更新版 4 位 GGUF 检查点，这些模型采用量化感知蒸馏（QAD）进行训练。该技术将高精度教师模型的知识蒸馏到量化学生模型中，以恢复在标准量化过程中丢失的精度。