llama.cppプロジェクトは、Hugging Faceのプライマリスプリットをモデルパスとして使用する変更を含むバージョンb9858をリリースしました。このアップデートは、モデル読み込みパスに関する問題#25181を解決します。

  • macOS Apple Silicon (arm64) および Intel (x64) のバイナリが利用可能です。
  • モバイルデプロイメント用にiOS XCFrameworkが含まれています。
  • LinuxビルドはUbuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16をサポートします。
  • Android arm64 (CPU) バイナリが提供されています。
  • WindowsビルドはCPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、HIPをカバーしています。
  • ACL Graphサポート付きのx86およびaarch64向けopenEulerビルドがリストされていますが、一部の構成は無効になっています。

このリリースは、幅広いハードウェアアーキテクチャとオペレーティングシステム向けの更新されたバイナリを提供し、最新のモデル読み込み標準との互換性を確保します。