llama.cppプロジェクトはバージョンb9902をリリースし、プルリクエスト#25236を通じて`cross_entropy_loss`および`cross_entropy_loss_back`操作に対するSYCLサポートを導入しました。このアップデートには、コードベース内のフォーマット問題の修正も含まれています。

  • macOS/iOS: Apple Silicon (arm64) と Intel (x64) 用のバイナリ、および iOS XCFramework が提供されます。Apple Silicon における KleidiAI サポートは無効化されています。
  • Linux: Ubuntu x64、arm64、s390x CPU 向けのビルドに加え、Vulkan、ROCm 7.2、OpenVINO、SYCL (FP32/FP16) 版が利用可能です。
  • Android: arm64 CPU 用のバイナリが含まれています。
  • Windows: リリースには x64 および arm64 CPU、OpenCL Adreno、CUDA 12.4 および 13.3、Vulkan、OpenVINO、SYCL、HIP が含まれます。
  • openEuler: x86 (310p, 910b ACL Graph) と aarch64 (310p, 910b ACL Graph) 向けのビルドが利用可能ですが、初期のプルリクエストは無効としてマークされています。

このリリースは、特定の損失関数に対するSYCLアクセラレーションを有効にすることでハードウェア互換性を拡大し、主要なオペレーティングシステムとアクセラレーターバックエンド全体で包括的なバイナリを提供します。