قام مستخدم بمقايضة نقل PCIe والأداء على إعداد ثنائي GPU باستخدام llama.cpp مع Qwen3.6-27B-UD-Q4_K_XL.gguf عند سياق 180k. يقارن الاختبار وضعي التوازي المصفوفي والتوازي عبر الخط الأنابيب لتقييم استخدام النطاق الترددي والإنتاجية.
- يحقق وضع التوازي المصفوفي سرعة فك تشفير تبلغ 47 رمزًا في الثانية مقابل 30 رمزًا في الثانية للتوازي عبر الخط الأنابيب.
- ينتج وضع التوازي عبر الخط الأنابيب سرعة تعبئة مسبقة أعلى تبلغ 1250 رمزًا في الثانية مقارنة بـ 650 رمزًا في الثانية في التوازي المصفوفي.
- يُظهر مراقبة النطاق الترددي لـ PCIe عبر nvidia-smi نقلًا مستمرًا أثناء فك التشفير في التوازي المصفوفي، بينما يعرض التوازي عبر الخط الأنابيب قمم تعبئة مسبقة متغيرة ونقلًا مستمرًا منخفضًا.
تشير النتائج إلى أن استخدام ريسرات (risers) لربط وحدات GPU قد لا يسبب اختناقًا كبيرًا للأداء، مما يدعم جدوى مثل هذه التكوينات الأجهزة لإعدادات متعددة GPUs.