يقدم المؤلفون الشفاء الواعي للكمية (QAH)، وهي طريقة لاستعادة قدرات الاستدلال والبرمجة في نماذج اللغة الكبيرة المضغوطة هيكلياً بـ 4 بت. على عكس التدريب الواعي للكمية القياسي الذي يعيد ضبط النموذج المضغوط، يقوم QAH باستخلاص الطالب ذو الـ 4 بت مباشرة من النموذج الأصلي غير المضغوط.

  • طُبق على GPT-OSS 120B المخفض إلى 60B باستخدام كمية MXFP4، حيث حقق Hypernova-60B الناتج نتائج تعادل أو تتفوق على مصدره bfloat16 في 7 من أصل 9 مقاييس أداء.
  • يستخدم النهج حوالي 4 أضعاف أقل من ذاكرة الأوزان ونصف عدد معاملات المعلم.
  • يصل QAH إلى ذروة أداء مماثلة للتدريب الواعي للكمية أسرع بحوالي 7 مرات ويبقى مستقراً تحت التدريب المستمر دون إيقاف مبكر مضبوط يدوياً.

توفر الطريقة وصفة عملية لنشر النماذج المضغوطة دون الحاجة إلى بحث عن المعلمات الفائقة يستمر لأسابيع.