llama.cpp プロジェクトはビルド b9932 をリリースしました。これは、GCN アーキテクチャ上で FA mask_opt 機能を無効化してパフォーマンスを向上させる Vulkan 最適化を含んでいます。

  • このアップデートにより、注意機構のヘッドサイズが 256 より大きい場合に mask opt が再有効化されました。
  • KleidiAI を搭載した macOS Apple Silicon ビルドは、今回のリリースで無効化されています。
  • Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL)、Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP)、Android、macOS Intel のバイナリが提供されています。
  • openEuler サポートは部分的に無効化されており、特定のハードウェア構成に対して x86 と aarch64 のビルドが利用可能です。