一位Reddit用户正在决定是购买NVIDIA RTX 5090还是Bosgame Strix Halo系统,以改进其本地大型语言模型设置。该用户目前拥有一张RTX 5080,但认为Claude和Deepseek V4 Pro等云端API对于通用用途更具成本效益。

  • 该用户大约有3,000美元可用于升级。
  • 选项一涉及出售当前的RTX 5080(约1,000美元)以资助3,400美元的RTX 5090。
  • 选项二是购买2,500美元的Bosgame Strix Halo,同时保留现有的RTX 5080。
  • 主要目标是实现快速的响应时间,感觉就像人类对话一样快。

隐私和对无审查模型的访问是保持本地硬件的关键原因。

该帖子强调了高端消费级GPU与用于运行本地模型的专业AI硬件之间持续的性价比分析。