llama.cpp 项目发布了版本 b9930,其中包括允许在序列内减小位置的修复。
- macOS/iOS:提供适用于 Apple Silicon (arm64) 和 Intel (x64) 的二进制文件,以及 iOS XCFramework。Apple Silicon 上的 KleidiAI 支持已禁用。
- Linux:提供 Ubuntu x64 和 arm64 的构建(CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16)。
- Android:发布了 arm64 CPU 二进制文件。
- Windows:提供 x64 和 arm64 CPU 的二进制文件,以及 OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP。
- openEuler:某些配置的 support 已禁用;提供带有 ACL Graph 的 x86 和 aarch64 构建。
- 还包含一个独立的用户界面二进制文件。