한 레딧 사용자는 Q8_0 양자화를 사용할 때 Qwen 3.6 27B 모델의 최대 신뢰할 수 있는 컨텍스트 창 길이에 대해 문의하고 있습니다.

  • 사용자는 현재 100k 컨텍스트 길이로 작동하고 있지만 결과가 만족스럽지 않다고 보고합니다.
  • KV 캐시 양자화를 피하는 것 외에도 더 긴 컨텍스트에 대한 안정성을 향상시키는 방법을 찾고 있습니다.