llama.cpp 项目已发布 b9803 版本,其中包含针对 OpenCL 的修复,用于在关闭时刷新不完整批次的性能分析数据。此更新为 macOS、Linux、Windows、Android 和 openEuler 提供了跨各种硬件后端的二进制文件。

  • macOS Apple Silicon (arm64) 和 Intel (x64) 构建版本可用,已禁用 KleidiAI。
  • Linux 支持 Ubuntu x64 和 arm64 CPU、Vulkan、ROCm 7.2、OpenVINO 以及 SYCL FP32/FP16。
  • Windows 提供 CPU、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、HIP 和 OpenCL Adreno 构建版本。
  • 包含 Android arm64 (CPU) 和 iOS XCFramework 二进制文件。
  • openEuler 支持 x86 和 aarch64,并启用 ACL Graph,而标准 openEuler 拉取请求已禁用。

该发布版本确保了跨多种硬件配置的兼容性,并修正了 OpenCL 用户的性能分析数据处理问题。