llama.cpp 项目发布了版本 b9902,通过拉取请求 #25236 为 `cross_entropy_loss` 和 `cross_entropy_loss_back` 操作引入了 SYCL 支持。此更新还包括对代码库中格式问题的修正。
- macOS/iOS:提供适用于 Apple Silicon (arm64) 和 Intel (x64) 的二进制文件,以及 iOS XCFramework;Apple Silicon 上的 KleidiAI 支持已禁用。
- Linux:提供适用于 Ubuntu x64、arm64 和 s390x CPU 的构建版本,以及 Vulkan、ROCm 7.2、OpenVINO 和 SYCL (FP32/FP16) 变体。
- Android:包含 arm64 CPU 二进制文件。
- Windows:发布版本涵盖 x64 和 arm64 CPU、OpenCL Adreno、CUDA 12.4 和 13.3、Vulkan、OpenVINO、SYCL 和 HIP。
- openEuler:提供适用于 x86 (310p, 910b ACL Graph) 和 aarch64 (310p, 910b ACL Graph) 的构建版本,而初始拉取请求被标记为禁用。
此发布通过为特定损失函数启用 SYCL 加速来扩展硬件兼容性,并在主要操作系统和加速器后端提供全面的二进制文件。