Пользователь сообщает, что запуск модели Qwen 3.6 27B с многозадачным предсказанием (MTP) привел к удвоению количества токенов в секунду.

  • Улучшение производительности было замечено при использовании MTP с моделью Qwen 3.6 27B.
  • Пользователь намерен в дальнейшем искать модели MTP, прошедшие процесс аблiteration.