أطلق فريق LFM2.5 نقاط تفتيش GGUF محدثة بـ 4 بت لنماذج LFM2.5-230M وLFM2.5-350M وLFM2.5-1.2B-Instruct وLFM2.5-2.6B، تم تدريبها باستخدام التقطير الواعي بالكمية (QAD). تعمل هذه التقنية على تقطير نموذج معلم عالي الدقة إلى طالب مُكمَّم لاستعادة الدقة المفقودة أثناء عملية التكميم القياسي.

  • يستعيد QAD حوالي 97% من فجوة الأداء بين BF16 والتكميم اللاحق للتدريب القياسي Q4_0 عبر جميع أحجام النماذج الأربعة.
  • تتراوح معدلات الاستعادة المحددة بين 70.6% لـ LFM2.5-230M، و73.4% لـ LFM2.5-350M، و65.5% لـ LFM2.5-1.2B، و48.4% لـ LFM2.5-2.6B.
  • شملت الاختبارات benchmarks تغطي الاستدلال، واتباع التعليمات، واستخدام الأدوات، والقدرات الوكيلية على GPQA Diamond وMMLU-Pro وIFEval وIFBench وMulti-IF وBFCLv4 وGSM8K وAIME25.
  • تحافظ نقاط التفتيش على معدل الإخراج العالي لنماذج GGUF الأصلية Q4_0 مع مطابقة أو تفوق جودة تنسيقات Q5_K_M وQ4_K_M على خلفيات الأجهزة المختبرة.

تتيح هذه التحديثات للأجهزة الطرفية الحفاظ على بصمة ذاكرة منخفضة وسرعات استنتاج عالية دون تدهور كبير في الدقة مقارنة بالنماذج كاملة الدقة.