Пользователь описывает свой масштабный процесс обновления оборудования для локального запуска модели GLM 5.2, который завершился конфигурацией из пяти GPU AMD Radeon Pro W6800 и одного NVIDIA RTX 5090.

  • Автор начал с двух RTX 5090, но обнаружил, что VRAM недостаточно для сложных задач.
  • Обновления включали Threadripper Pro 9975WX, материнскую плату WRX90 Sage SE и несколько карт AMD Radeon Pro W6800.
  • Проблемы с охлаждением вынудили отказаться от бокового расположения GPU в пользу корпусов открытого типа.
  • Конфигурация 5x Pro 6000 + 5090 обеспечила уровень выполнения задач на 98–99% при достаточном контексте.
  • При полной нагрузке GPU нагревались до 70–75°C, что потребовало установки второго блока питания и масштабных систем охлаждения.

Автор приходит к выводу, что, хотя конфигурация удовлетворяет всем функциональным требованиям для запуска GLM 5.2 и моделей Kimi, она финансово нецелесообразна: окупаемость оценивается более чем в 10 лет.