一位Reddit用户正在寻求关于升级其本地大型语言模型设置的建议,具体权衡推理速度与通用知识能力之间的取舍。

  • 该用户目前在Strix Halo设备上将Qwen3.6 35B作为其主要助手和编码代理。
  • 他们报告在131k上下文窗口下实现了每秒约30-40个token的速度。
  • 该用户认为当前模型缺乏基本的通用知识,其功能更像是一个执行者而非助手。
  • 为了解决这个问题,他们正在考虑切换到更大的Qwen3.5 122B模型,同时试图保持可接受的速度。