Saklar PEX8749 memungkinkan 6 MI50 dengan kehilangan performa yang dapat diabaikan

Seorang pengguna menguji menjalankan enam GPU AMD MI50 pada motherboard Asus X99-E-WS dengan menggunakan saklar PCIe PEX8749 untuk menghubungkan empat kartu, sementara dua sisanya terhubung langsung. Tujuannya adalah untuk menentukan apakah konfigurasi ini meningkatkan atau menurunkan kecepatan generasi token (tg) dan pemrosesan prompt (pp) dibandingkan dengan keenam GPU berjalan secara langsung.

• Menguji model dervig/m51Lab-MiniMax-M2.7-REAP-139B-A10B pada Intel Xeon E5-2680 v4 dengan RAM 128GB.
• Konfigurasi saklar menghasilkan perubahan -0,74% untuk pp512 dan -0,36% untuk pp16384+tg128.
• Kecepatan generasi token meningkat sebesar +2,73% untuk tg128 dan +0,83% untuk pp65536+tg128.
• Uji gabungan pp512+tg128 menunjukkan peningkatan +1,90%, sementara pp4096+tg128 tetap hampir identik di +0,01%.

Hasilnya menunjukkan bahwa menggunakan saklar PEX8749 untuk memperluas kapasitas GPU memperkenalkan kehilangan performa yang dapat diabaikan, dengan kecepatan generasi token justru mengalami peningkatan kecil di beberapa benchmark.