एक उपयोगकर्ता GLM 5.2 मॉडल को स्थानीय रूप से चलाने के लिए अपने व्यापक हार्डवेयर अपग्रेड प्रक्रिया का विवरण देते हैं, जिसका अंत पांच AMD Radeon Pro W6800 GPUs और एक NVIDIA RTX 5090 की सेटअप में होता है।
- लेखक ने दो RTX 5090 के साथ शुरू किया लेकिन जटिल कार्यों के लिए VRAM अपर्याप्त पाया।
- अपग्रेड में Threadripper Pro 9975WX, WRX90 Sage SE मदरबोर्ड और कई AMD Radeon Pro W6800 कार्ड शामिल थे।
- थर्मल समस्याओं ने GPU को बगल में रखने की विन्यास को त्यागने और खुले-केस डिज़ाइन को अपनाने के लिए मजबूर किया।
- अंतिम 5x Pro 6000 + 5090 विन्यास ने पर्याप्त संदर्भ के साथ 98–99% कार्य पूर्णता दरें हासिल कीं।
- पूर्ण लोड के तहत GPUs 70–75°C तक पहुंच गए, जिसके लिए एक दूसरा PSU और व्यापक कूलिंग समाधानों की आवश्यकता थी।
लेखक निष्कर्ष निकालते हैं कि हालांकि सेटअप GLM 5.2 और Kimi मॉडल चलाने के लिए सभी कार्यात्मक आवश्यकताओं को पूरा करता है, यह वित्तीय रूप से असंगत है, और ब्रेक-इवन तक पहुंचने में 10 वर्ष से अधिक का अनुमान लगाया गया है।