एक उपयोगकर्ता ने दो मल्टी-GPU सेटअप पर MiniMax M2.7 REAP 139B Q3_K_L मॉडल का बेंचमार्क किया: कुल VRAM के साथ छह AMD MI50 कार्ड और कुल VRAM के साथ छह NVIDIA Tesla P40 कार्ड।
- प्रीफिल टेस्ट में P40 सेटअप (CUDA) ने MI50 सेटअप (ROCm) को काफी हराया, संदर्भ लंबाई के आधार पर ~1.13x से ~3.18x तक तेज था।
- टोकन जनरेशन (tg128) में MI50 सेटअप तेज था, जिसने P40 के 20.49 t/s की तुलना में 24.87 t/s हासिल किया।
- दोनों कॉन्फ़िगरेशन Asus X99-E-WS मदरबोर्ड्स पर Intel Xeon E5-2680 v4 CPUs और 128GB RAM के साथ चले।
परिणाम संकेत देते हैं कि MI50 की श्रेष्ठ व्यक्तिगत स्पेक्स के बावजूद, P40 क्लस्टर ने इस विशिष्ट मॉडल कॉन्फ़िगरेशन के लिए प्रतिस्पर्धी प्रदर्शन बनाए रखा।