llama.cpp 项目发布了 b10018 版本,通过 pull request #25550 引入了 xielu 算子的 SYCL 实现。此更新为 macOS、Linux、Android、Windows 和 openEuler 在各种硬件后端提供了预构建的二进制文件。

  • macOS 构建包括 Apple Silicon (arm64) 和 Intel (x64) 版本,以及 iOS XCFramework;Apple Silicon 上的 KleidiAI 支持已禁用。
  • Linux 产品涵盖 Ubuntu 的 CPU (x64, arm64, s390x)、Vulkan、ROCm 7.2、OpenVINO 和 SYCL (FP32/FP16) 变体。
  • Windows 二进制文件支持 CPU (x64/arm64)、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL 和 HIP。
  • 还提供 Android arm64 (CPU) 和 openEuler x86/aarch64 (310p/910b ACL Graph) 构建。

此发布扩展了 llama.cpp 用户的硬件兼容性,特别是通过新的 SYCL 算子支持和更新的 CUDA 版本。