GLM5.2 pada 5x Pro 6000 dan satu 5090, perjalanan yang mahal

Seorang pengguna mendetailkan proses peningkatan perangkat kerasnya yang ekstensif untuk menjalankan model GLM 5.2 secara lokal, berakhir dengan setup lima GPU AMD Radeon Pro W6800 dan satu NVIDIA RTX 5090.

• Penulis memulai dengan dua RTX 5090 tetapi menemukan VRAM tidak cukup untuk tugas kompleks.
• Peningkatan mencakup Threadripper Pro 9975WX, motherboard WRX90 Sage SE, dan beberapa kartu AMD Radeon Pro W6800.
• Masalah termal memaksa pengabaian konfigurasi GPU berdampingan demi desain casing terbuka.
• Konfigurasi akhir 5x Pro 6000 + 5090 mencapai tingkat penyelesaian tugas 98–99% dengan konteks yang memadai.
• GPU mencapai 70–75°C di bawah beban penuh, memerlukan PSU kedua dan solusi pendinginan ekstensif.

Penulis menyimpulkan bahwa meskipun setup memenuhi semua kebutuhan fungsional untuk menjalankan model GLM 5.2 dan Kimi, hal itu tidak layak secara finansial, dengan estimasi lebih dari 10 tahun untuk mencapai titik impas.