一位Reddit用户正在咨询Qwen 3.6 27B模型的最大可靠上下文窗口长度,特别是在使用Q8_0量化时。

  • 该用户报告目前运行在100k的上下文长度,但结果令人不满意。
  • 他们正在寻求改进更长上下文稳定性的方法,而不仅仅是避免KV cache量化。