llama.cpp 项目发布了 b9824 版本,其中包括对 rpc-server 和 export-graph-ops 二进制的改进。`export-graph-ops` 工具已重命名以遵循测试命名约定,而 `rpc-server` 已重命名为 `ggml-rpc-server` 以避免系统目录中的冲突。
该版本提供了适用于 macOS(Apple Silicon 和 Intel)、iOS、Linux(Ubuntu x64、arm64、s390x,支持 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 后端)、Android(arm64)、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)以及 openEuler 的预构建二进制文件。
macOS Apple Silicon 构建中启用 KleidiAI 支持的功能在此版本中被禁用。