llama.cpp 项目发布了 b10020 版本,其中包括对影响 Q2_K、Q4_K 和 Q5_K 量化格式的 SYCL 后端的 get_rows 函数的修复。
- 提供适用于 Apple Silicon (arm64)、Intel (x64) 和 iOS XCFramework 的 macOS/iOS 构建,Apple Silicon 上禁用了 KleidiAI。
- Linux 二进制文件适用于 Ubuntu x64、arm64 和 s390x CPU,以及 Vulkan、ROCm 7.2、OpenVINO 和 SYCL FP32/FP16 变体。
- 包含 Android arm64 CPU 构建。
- Windows 版本涵盖 x64 和 arm64 CPU、OpenCL Adreno、CUDA 12.4 和 13.3、Vulkan、OpenVINO、SYCL 和 HIP。
- openEuler 支持部分禁用,提供适用于 x86 (310p, 910b ACL Graph) 和 aarch64 (310p, 910b ACL Graph) 的构建。
- 还提供了独立的 UI 二进制文件。
此版本确保了跨多个操作系统和加速器的更广泛硬件兼容性,同时修正了特定的 SYCL 量化问题。