llama.cpp 项目发布了版本 b9956,其中包含对命令行界面的修复,以防止在提供错误的服务器基础 URL 时发生崩溃。此更改通过捕获异常而非突然失败来确保优雅退出。
- macOS/iOS:提供适用于 Apple Silicon (arm64) 和 Intel (x64) 的二进制文件,以及 iOS XCFramework;Apple Silicon 上的 KleidiAI 支持已禁用。
- Linux:提供针对 Ubuntu x64、arm64 和 s390x CPU 的构建,以及 Vulkan、ROCm 7.2、OpenVINO、SYCL FP32 和 SYCL FP16 变体。
- Android:提供 arm64 CPU 二进制文件。
- Windows:二进制文件支持 x64 和 arm64 CPU、OpenCL Adreno、CUDA 12 和 13、Vulkan、OpenVINO、SYCL 和 HIP。
- openEuler:包含对带有 ACL Graph 的 x86 (310p, 910b) 和 aarch64 (310p, 910b) 的支持,尽管该平台的相关拉取请求仍处于禁用状态。
此版本在多个平台和硬件加速器上提供了更新的二进制文件,确保运行 llama.cpp 的用户拥有更广泛的兼容性和稳定性。