llama.cppプロジェクトはバージョンb9992をリリースしました。このバージョンにはMMQカーネル設定のリファクタリングが含まれています。

このアップデートは、NVIDIAのBlackwellアーキテクチャの設定を特定して修正し、レガシーコードを削除します。

  • CUDAサポートを改善するためにMMQカーネル設定をリファクタリングしました。
  • Blackwell GPUの設定問題を修正しました。
  • コードベースからレガシーコードを削除しました。

このリリースでは、CPU、Vulkan、ROCm、OpenVINO、SYCL、HIPを含むさまざまなハードウェアバックエンド向けに、macOS、Linux、Windows、Android、openEulerの更新されたバイナリが提供されます。