llama.cpp 项目已发布版本 b9785,其中包含一项代码更改,用于加固大小写检查,详见拉取请求 #24973。此次更新提供了适用于 macOS Apple Silicon、Intel Mac 以及通过 XCFramework 提供的 iOS 的预构建二进制文件,在 Apple Silicon 上禁用了 KleidiAI 支持。Linux 发行版(包括 Ubuntu)支持 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 后端,涵盖 x64、arm64 和 s390x 架构。Android 用户可获取 arm64 CPU 二进制文件,而 Windows 提供广泛的选择,涵盖 CPU、OpenCL Adreno、CUDA 12 和 13、Vulkan、OpenVINO、SYCL 和 HIP。该版本还包括针对 x86 和 aarch64 处理器并支持 ACL Graph 的 openEuler 构建。除了各平台特定的发布外,还提供了一个独立的 UI 包,以方便本地模型推理。
llama.cpp b9785 发布,包含加固的大小写检查与多平台二进制文件
译自 English → 中文