llama.cpp 项目发布了版本 b9987,为 GGUF 格式引入了新的张量形状访问器。此更新通过返回 const int64_t 指针形式的张量形状来修改 API,并移除了 n_dims 访问器,改用 gguf_get_tensor_ne。

  • macOS/iOS 适用于 Apple Silicon (arm64) 和 Intel (x64) 的二进制文件,以及 iOS XCFramework。
  • Linux 构建版本,支持 Ubuntu x64、arm64 和 s390x CPU,以及 Vulkan、ROCm 7.2、OpenVINO 和 SYCL 变体。
  • Android arm64 CPU 二进制文件。
  • Windows 适用于 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP 的二进制文件。
  • openEuler 对 x86 和 aarch64 架构的支持,带有 ACL Graph。

此版本在主要平台和硬件加速器上提供了更新的二进制文件,同时完善了内部 GGUF 张量访问接口。