一位 Reddit 用户报告称，在配备 32GB VRAM 的消费级 GPU 上运行量化为 5 位的开源 Gemma 4 31B 模型，其质量显著优于 ChatGPT 的标准免费层级。

  • 该用户购买了一块拥有 32GB VRAM 的 GPU 以运行本地大型语言模型。
  • 在初始消息用尽后，他们将 Gemma 4 31B 的性能与 OpenAI 的默认模型进行了比较。
  • 该用户形容质量差异巨大，暗示 OpenAI 可能通过为免费用户提供较低质量的模型来削减成本。

该帖子强调了本地开源模型在与专有服务竞争方面日益增强的能力。