एक उपयोगकर्ता ने PEX8749 PCIe स्विच का उपयोग करके चार कार्ड्स को कनेक्ट करते हुए Asus X99-E-WS मदरबोर्ड पर छह AMD MI50 GPUs चलाने का परीक्षण किया, जबकि शेष दो सीधे जुड़े हुए थे। उद्देश्य यह निर्धारित करना था कि क्या यह विन्यास सभी छह GPUs के सीधे चलने की तुलना में टोकन जनरेशन (tg) और प्रॉम्प्ट प्रोसेसिंग (pp) गति को सुधारता है या खराब करता है।
- 128GB RAM के साथ Intel Xeon E5-2680 v4 पर dervig/m51Lab-MiniMax-M2.7-REAP-139B-A10B मॉडल का परीक्षण।
- स्विच विन्यास ने pp512 के लिए -0.74% परिवर्तन और pp16384+tg128 के लिए -0.36% परिवर्तन दिया।
- टोकन जनरेशन गति tg128 के लिए +2.73% और pp65536+tg128 के लिए +0.83% से सुधरी।
- संयुक्त pp512+tg128 परीक्षण ने +1.90% सुधार दिखाया, जबकि pp4096+tg128 +0.01% के साथ लगभग समान रहा।
परिणाम इंगित करते हैं कि GPU क्षमता को बढ़ाने के लिए PEX8749 स्विच का उपयोग करने से नगण्य प्रदर्शन हानि होती है, कई बेंचमार्क्स में टोकन जनरेशन गति में वास्तव में थोड़ा सुधार देखने को मिला।