llama.cpp 项目发布了版本 b10780,其中包括对 SYCL 后端的特定增强。此更新修改了 API,以启用 SYCL 设备的点对点复制(peer-to-peer copy)功能。
- 该版本为 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x)、Windows(x64 和 arm64)、Android 和 openEuler 提供二进制文件。
- 支持的硬件后端包括 CPU、Vulkan、ROCm 10.0、OpenVINO、CUDA 12/13 和 SYCL。
- 此版本中,带有 KleidiAI 的 macOS Apple Silicon 构建目前已被禁用。
- Windows arm64 CUDA 13 支持被标记为预览版(preview release)。
此更新允许用户在 SYCL 实现中使用新的点对点复制功能。