llama.cpp プロジェクトはビルド b9894 をリリースしました。これには、実装されていない f16 サポートに起因する GGML_OP_SET_ROWS の失敗を防ぐための Vulkan バックエンドの修正が含まれています。

  • Vulkan 実装は、GGML_OP_SET_ROWS で src0 タイプをチェックし、f16 サポートの欠如によるクラッシュを回避します。
  • macOS ビルドは Apple Silicon (arm64) と Intel (x64) 向けに利用可能で、Apple Silicon では KleidiAI が無効になっています。
  • Linux バイナリは CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL バックエンド across Ubuntu x64、arm64、s390x をカバーしています。
  • Android サポートには arm64 CPU ビルドが含まれます。
  • Windows バイナリは CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP のオプションを提供します。
  • ACL Graph 付きの openEuler x86 と aarch64 ビルドが利用可能ですが、openEuler x86 (310p) は無効になっています。

このリリースは、特定のタイプチェックの問題に対処することで、Vulkan 推論に依存するユーザーにとっての安定性を保証します。