llama.cpp 项目发布了构建版本 b9984,其中包含通过 pull request #25064 向 DMMV 重排序路径添加 Q2_K 量化支持的更改。
- macOS/iOS:为 Apple Silicon (arm64)、Intel (x64) 和 iOS XCFramework 提供二进制文件;Apple Silicon 上禁用了 KleidiAI。
- Linux:提供适用于 Ubuntu x64、arm64 和 s390x CPU 的构建,以及 Vulkan、ROCm 7.2、OpenVINO 和 SYCL (FP32/FP16) 后端。
- Android:为 arm64 提供 CPU 二进制文件。
- Windows:发布了适用于 x64 和 arm64 CPU、OpenCL Adreno、CUDA 12.4 和 13.3、Vulkan、OpenVINO、SYCL 和 HIP 的二进制文件。
- openEuler:包含对带有 ACL Graph 的 x86 (310p, 910b) 和 aarch64 (310p, 910b) 的支持,而主 pull request 被标记为禁用。
此版本提供了主要操作系统和硬件加速器上的更新二进制文件,使兼容的 SYCL 构建能够在 DMMV 重排序路径中使用 Q2_K 量化。