llama.cpp 项目发布了 b9829 版本,其中包括对服务器、通用组件和推测解码模块的日志输出进行精简。此次更新还通过用 COM_ 替换 CMN_ 来标准化命名约定。

  • 服务器日志已减少,以便更好地控制详细程度。
  • macOS Apple Silicon 构建版本可用,但 KleidiAI 支持已禁用。
  • Linux 二进制文件涵盖 Ubuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO 和 SYCL FP32/FP16。
  • Windows 发行版包括 CPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL 和 HIP 变体。
  • 提供 Android arm64 (CPU) 和 iOS XCFramework 二进制文件。
  • x86 的 openEuler 支持已禁用,但 aarch64 在 ACL Graph 下可用。

此版本为跨各种操作系统和硬件加速器的开发者提供了更新的二进制文件,确保与最新 CUDA 版本兼容,并减少服务器环境中的日志噪音。