GLM-5.2-Int4-Int8 يحقق ~1,200 ت/ث ملء أولي و33–54 ت/ث فك تشفير على 8× GB10

تقرير المقال نتائج المعايير لنموذج GLM-5.2-Int4-Int8 يعمل على تسعة مسرعات GB10. التكوين يحقق حوالي 1,200 رمز في الثانية أثناء الملء الأولي ومتوسط 33–54 رمز في الثانية أثناء فك التشفير.

• سعة الملء الأولي تصل إلى ~1,200 ت/ث.
• سعة فك التشفير المتوسطة تتراوح من 33 إلى 54 ت/ث.
• الإعداد يدعم التوازي المصفوفي (tp) 8 لكل من GLM-5.2 ونموذج Mimo 2.5 الموازي الذي يعالج مدخلات الصور/الصوت.

هذا الملف الشخصي للأداء يسمح للنظام بتشغيل GLM-5.2 alongside نماذج أخرى مثل Mimo 2.5 على نفس الأجهزة.