Пользователь Reddit выбирает между покупкой NVIDIA RTX 5090 или системы Bosgame Strix Halo для улучшения своей локальной инфраструктуры больших языковых моделей. В настоящее время у пользователя есть RTX 5080, но он считает облачные API, такие как Claude и Deepseek V4 Pro, более рентабельными для общего использования.
- У пользователя есть примерно $3,000 на обновление.
- Первый вариант предполагает продажу текущей RTX 5080 за около $1,000 для финансирования покупки RTX 5090 за $3,400.
- Второй вариант — покупка Bosgame Strix Halo за $2,500 с сохранением существующей RTX 5080.
- Основная цель — достижение быстрого времени отклика, которое ощущается таким же быстрым, как человеческая речь.
Конфиденциальность и доступ к моделям без цензуры являются ключевыми причинами сохранения локального оборудования.
Пост подчеркивает продолжающийся анализ соотношения затрат и выгод между высококлассными потребительскими GPU и специализированным ИИ-оборудованием для запуска локальных моделей.