一位用户详细描述了为本地运行GLM 5.2模型而进行的广泛硬件升级过程,最终配置为五块AMD Radeon Pro W6800 GPU和一块NVIDIA RTX 5090。

  • 作者最初使用两块RTX 5090,但发现VRAM对于复杂任务来说不足。
  • 升级包括Threadripper Pro 9975WX、WRX90 Sage SE主板和多块AMD Radeon Pro W6800显卡。
  • 散热问题迫使放弃并排GPU配置,转而采用开放式机箱设计。
  • 最终的5x Pro 6000 + 5090配置在充足上下文的情况下实现了98–99%的任务完成率。
  • GPU在全负载下达到70–75°C,需要第二个电源和广泛的冷却解决方案。

作者得出结论,虽然该配置满足运行GLM 5.2和Kimi模型的所有功能需求,但在经济上不可行,预计需要超过10年才能回本。