llama.cppプロジェクトはバージョンb10002をリリースしました。これには、内部テンソル次元の連続性をチェックするためのggmlの新関数セットが含まれています。このビルドは複数のプラットフォームとハードウェアアクセラレータで利用可能です。

  • macOS Apple Silicon (arm64) と Intel (x64) 用のバイナリが提供されています。KleidiAIサポートは無効化されています。
  • Linuxビルドには、CPU向けのUbuntu x64、arm64、s390xが含まれます。また、Vulkan、ROCm 7.2、OpenVINO、SYCLのバリアントも含まれます。
  • Windowsリリースには、CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIPのサポートが含まれます。
  • Android arm64 (CPU) 用のバイナリも含まれています。
  • x86およびaarch64アーキテクチャ向けのopenEulerビルドが利用可能です。一部の構成は無効としてマークされています。

このリリースは、特定のハードウェアアクセラレーションやプラットフォームの互換性が必要な開発者向けに更新されたバイナリを提供します。