llama.cppプロジェクトは、Asahi Linux向けのVulkanバックエンド最適化を含むバージョンb9846をリリースしました。このアップデートでは、Apple Siliconハードウェア上でLinuxを実行する環境における互換性とパフォーマンスを向上させるため、行列積のブロックサイズループをロールバックしています。

  • Vulkan: Asahi Linux向けに直接SPIR-V編集によりmatmulのBKループをロールバック。
  • Vulkan: 以前のBKループ展開変更を元に戻し、インラインコメントを修正。
  • macOS/iOS: Apple Silicon (arm64) と Intel (x64) 用のバイナリを提供（KleidiAIは無効化）。
  • Linux: CPU、Vulkan、ROCm 7.2、OpenVINO、SYCLバックエンド向けにUbuntu x64、arm64、s390xのビルドを提供。
  • Windows: x64およびarm64向けにCPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPのビルドを含む。
  • Android: arm64 CPUバイナリをリリース。

このリリースにより、Asahi Linuxでの安定したVulkanサポートが確保され、広範なハードウェアアーキテクチャとアクセラレーションライブラリ向けに包括的なプリビルドバイナリが提供されます。