Пользователь Reddit демонстрирует, как собрать локальную систему для вывода ИИ менее чем за $2500, используя доступные б/у компоненты, с акцентом на возможность запуска больших языковых моделей, таких как GLM-5.2, без дорогого корпоративного оборудования.
Предлагаемая конфигурация стоит около $1920 за основные компоненты: материнская плата и процессор Epcy ($460), две б/у видеокарты NVIDIA Tesla P40 24GB (всего $460) и 512 ГБ ОЗУ DDR4 ($1000). Дополнительный бюджет в размере $350-$580 покрывает необходимые периферийные устройства, такие как блок питания, накопители и охлаждение, что доводит общую стоимость примерно до $2500. Эта конфигурация поддерживает варианты GLM-5.2 Q2/Q3/Q4 через cmoe и llama.cpp, а также модели, такие как Kimi-K2.6 и DeepSeek.
Хотя скорость вывода будет низкой, что делает использование в реальном времени для агентов непрактичным, такая настройка позволяет пользователям выполнять задачи планирования и серьезной отладки локально, избегая зависимости от коммерческих API-провайдеров.