Пользователь Reddit ищет советы сообщества о том, какую большую языковую модель развернуть на собственном локальном сервере, оснащенном четырьмя графическими процессорами NVIDIA Blackwell, обеспечивающими примерно 384 ГБ видеопамяти. Организация пользователя планирует размещать модель для внутренних задач управления политиками и рассуждений, ожидая использования от двух до трех опытных пользователей и до двадцати одновременных пользователей.
Автор поста отмечает, что в настоящее время склоняется к DeepSeek V3 Flash и упоминает, что спецификация оборудования включает четыре RTX PRO 6000. Он также выражает интерес к пониманию того, как выбор модели может измениться, если система будет расширена до восьми графических процессоров Blackwell.
Этот запрос подчеркивает растущий интерес к высокопроизводительному локальному оборудованию для вывода данных на предприятиях для внутренних ИИ-приложений.