llama.cpp 项目发布了 b9858 版本,其中包括将 Hugging Face 主拆分作为模型路径的更改。此更新解决了关于模型加载路径的问题 #25181。
- macOS Apple Silicon (arm64) 和 Intel (x64) 二进制文件已提供。
- 包含用于移动部署的 iOS XCFramework。
- Linux 构建支持 Ubuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO 和 SYCL FP32/FP16。
- 提供了 Android arm64 (CPU) 二进制文件。
- Windows 构建涵盖 CPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL 和 HIP。
- 列出了支持 ACL Graph 的 x86 和 aarch64 openEuler 构建,尽管某些配置已禁用。
此发布版为广泛的硬件架构和操作系统提供了更新的二进制文件,确保与最新模型加载标准的兼容性。