أظهرت إنفيديا تقديم نموذج المعلمات Qwen 3.8 2.4T مع قدرات استدلال قابلة للتكوين على منصة الأجهزة الخاصة بها GB300 NVL72.
- يحقق النظام معدل تمرير يتجاوز 4,000 توكن في الثانية لكل وحدة معالجة رسومات باستخدام دقة FP8 دون ضبط إضافي للنموذج.
- يتلقى كل مستخدم حوالي 350 توكن في الثانية عبر تكوين 72 وحدة معالجة رسومات.
- من المتوقع تحقيق مكاسب أداء إضافية من خلال التحسينات مثل دقة NVFP4.
يبرز هذا النشر قدرة GB300 NVL72 على التعامل مع النماذج الضخمة بمعدل تمرير عالٍ وزمن استجابة منخفض للمستخدمين النهائيين.