llama.cpp プロジェクトはバージョン b10207 をリリースしました。このバージョンには、cpy 操作で以前サポートされていなかったデータ型に対する SYCL サポートを追加するプルリクエストが含まれています。

  • この更新により、PR #26005 を通じて cpy 機能内の未対応の型サポートが解消されました。
  • macOS (Apple Silicon および Intel)、Linux (CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16)、Windows (CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、Android、openEuler 用のバイナリディストリビューションが提供されています。
  • このリリースでは、KleidiAI を備えた macOS Apple Silicon のサポートは現在無効になっています。

このリリースにより、追加のデータ型で SYCL 実行を有効にすることで、llama.cpp のハードウェア互換性が拡大しました。