قام مستخدم بضغط نموذج GLM-5.2 (753B MoE) إلى Int4-Int8Mix مع ذاكرة تخزين مؤقت KV بـ NVFP4 4-bit وشغّله على أربعة أنظمة DGX Spark (GB10)، محققاً نتيجة 70.8% على Terminal-Bench 2.1.

  • استخدم الإعداد TP=4 عبر 4× عقد DGX Spark بعرض نطاق ~273 GB/s ونافذة سياق 100K مفعّلة بواسطة ذاكرة التخزين المؤقت KV بـ 4 بت.
  • استُخدم فك التشفير التكهناتي MTP ورسوم بيانية CUDA FULL للاستنتاج، مما أنتج حوالي 27.5 توكن/ثانية.
  • قورنت نتيجة 63/89 مهمة مع النتيجة الرسمية بدقة كاملة تبلغ 81.0% على نفس هيكل Terminus-2 agent.
  • تشمل الفجوة ~10 نقاط تأثيرات الضغط، وسعة سياق مخفضة إلى 100K مقارنة بـ 256K الرسمية، وميزية توكن أصغر.

يوضح التشغيل أن نموذج الأوزان المفتوحة بـ 4 بت على عتاد المستهلك يمكنه الاحتفاظ بحوالي 87% من الأداء الرسمي بدقة كاملة في معايير الوكلاء المعقدة.