llama.cppプロジェクトは、不完全なバッチのシャットダウン時にプロファイリングバッチをフラッシュするOpenCLの修正を含むバージョンb9803をリリースしました。このアップデートにより、macOS、Linux、Windows、Android、openEuler向けに、さまざまなハードウェアバックエンド用のバイナリが提供されます。

  • macOS Apple Silicon (arm64) および Intel (x64) ビルドが利用可能ですが、KleidiAIは無効化されています。
  • LinuxはUbuntu x64およびarm64 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16をサポートします。
  • WindowsではCPU、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、HIP、OpenCL Adrenoビルドが提供されます。
  • Android arm64 (CPU) および iOS XCFrameworkのバイナリが含まれています。
  • openEulerはACL Graph対応のx86およびaarch64をサポートしますが、標準のopenEulerプルリクエストは無効化されています。

このリリースにより、多様なハードウェア構成での互換性が確保され、OpenCLユーザー向けのプロファイリングデータ処理が修正されました。