llama.cppプロジェクトはバージョンb9952をリリースし、DeepSeek V4モデルのキー・クエリマスクの処理を変更しました。この更新により、Flash Attentionが使用される際にすべてのKQマスクがf16に設定され、ゼロの注意バイアスも削除されました。

  • DeepSeek V4で各ストリームごとに統一されたraw_kキャッシュを繰り返していた不要なコードを削除しました。
  • CPU、GPU、および特殊なハードウェアバックエンド向けに、macOS（Apple SiliconとIntel）、iOS、Linux、Android、Windows、openEulerのバイナリを提供しました。