llama.cpp 项目发布了版本 b10207,其中包含一个拉取请求,旨在为 cpy 操作中此前不支持的数据类型添加 SYCL 支持。

  • 该更新通过 PR #26005 解决了 cpy 功能中缺失的类型支持问题。
  • 提供了适用于 macOS(Apple Silicon 和 Intel)、Linux(CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16)、Windows(CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、Android 和 openEuler 的二进制发行版。
  • 此版本中,macOS Apple Silicon 上的 KleidiAI 支持目前已被禁用。

此发布通过在其他数据类型上启用 SYCL 执行,扩展了 llama.cpp 的硬件兼容性。