llama.cppプロジェクトは、Vulkanのconv2d coopmat2パスに影響するコンパイラバグの修正を含むバージョンb9811をリリースしました。このワークアラウンドは、NVIDIAエンジニアのJeff Bolzからの提案に基づき、CONV_3D実装にも適用されています。

  • macOS Apple Silicon (arm64) および Intel (x64) のバイナリが利用可能ですが、KleidiAIサポートは無効化されています。
  • Linuxビルドは、CPU (x64, arm64, s390x)、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16バリアントをカバーしています。
  • Android arm64 CPUバイナリがモバイルデバイス向けに提供されています。
  • Windowsリリースには、CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPビルドが含まれています。
  • openEulerのサポートはx86およびaarch64アーキテクチャで無効化されています。
  • スタンドアロンのUIバイナリもリリースに含まれています。

このアップデートにより、Vulkanハードウェア上で畳み込み演算を実行するユーザーに対して、特定のコンパイラの問題に対処し安定性が確保されました。