llama.cpp プロジェクトはバージョン b10067 をリリースし、`llama-quantize` ツールが DeepSeek-V4 モデルを正しく処理するための修正を含んでいます。この更新により、量子化ツールが `ffn_gate_tid2eid` テンソル（i32 のトークンからエキスパートへのインデックステーブル）を float 型に変換しようとするのを防ぎます。

  • 変換の失敗を避けるため、`ffn_gate_tid2eid` ルーティングテーブルを量子化から除外します。
  • テンソルを `ffn_gate_inp.weight` とともに名前に基づく除外リストに追加します。
  • DeepSeek-V4 モデルで以前量子化が失敗していた問題 #25754 を解決します。

この変更により、ユーザーは integer-to-float 型変換に関連するエラーに遭遇することなく、DeepSeek-V4 モデルを正常に量子化できるようになります。