Qwen3.6-35B-A3Bと密なQwen3.6-27Bを実行している開発者は、英語の技術テキストやコードのみを対象とするユーザーにとって、多言語重みがVRAMを無駄にすると主張しています。

  • 著者は、密なモデルが16〜20GBの重みファイル全体を読み込む必要があり、8GBや12GBのGPUのような限られたハードウェアを持つユーザーを排除していると指摘しています。
  • 彼らは2つの潜在的な解決策を提案しています：ゼロから多言語データを一切使わずに新しいモデルを訓練するか、既存のモデルを剪定して後から非英語の容量を削除することです。
  • 著者はDeepSeek-R1やOpenAI o1のような推論モデルに関する研究を参照し、単純なベンチマークと比較して複雑なタスクでの実行精度が低いことに言及しています。

核心的な懸念は、コンシューマーハードウェアでより良いコーディングパフォーマンスを得るためにVRAMを確保するために多言語重みを技術的に除去可能かどうかです。