Пользователь Reddit интересуется максимальной надежной длиной контекстного окна для модели Qwen 3.6 27B, особенно при использовании квантования Q8_0.

  • Пользователь сообщает, что в настоящее время работает с длиной контекста 100k, но результаты его не удовлетворяют.
  • Он ищет способы улучшить стабильность при работе с более длинными контекстами, помимо простого отказа от квантования KV cache.