llama.cpp 项目发布了版本 b10780,其中包括对 SYCL 后端的特定增强。此更新修改了 API,以启用 SYCL 设备的点对点复制(peer-to-peer copy)功能。

  • 该版本为 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x)、Windows(x64 和 arm64)、Android 和 openEuler 提供二进制文件。
  • 支持的硬件后端包括 CPU、Vulkan、ROCm 10.0、OpenVINO、CUDA 12/13 和 SYCL。
  • 此版本中,带有 KleidiAI 的 macOS Apple Silicon 构建目前已被禁用。
  • Windows arm64 CUDA 13 支持被标记为预览版(preview release)。

此更新允许用户在 SYCL 实现中使用新的点对点复制功能。