UnslothはQwen3.6モデル向けの最適化されたNVFP4量子化をリリースし、精度の低下なしにNVIDIAの標準的なNVFP4実装と比較して大幅な速度向上を実現しました。

  • Qwen3.6 27Bは、NVIDIAのW4A16方式と比較してW4A4テンサーコアを使用することで2.5倍高速に動作します。
  • Qwen3.6 35B-A3Bには、NVFP4-Fast（1.79倍高速）と標準NVFP4（1.56倍高速）の2つのバリエーションがあります。
  • FP8 KVキャッシュのキャリブレーションが含まれており、コンテキスト長を2倍に拡大できます。
  • MMLU-Pro、GPQA、AIME 2025でのベンチマークは、NVIDIAのNVFP4、FP8、BF16のベースラインと比較して同等またはそれ以上のパフォーマンスを示しています。

これらの更新により、ユーザーは競争力のある精度を維持しながら、より高いスループットと拡張されたコンテキストウィンドウでQwen3.6モデルを展開できます。