llama.cpp b9842 版本引入了对 /v1/models 端点中预设和缓存模型条目的去重更改。此更新由来自 Hugging Face 的 Adrien Gallouët 审核通过。

  • macOS Apple Silicon (arm64) 二进制文件已提供,而 KleidiAI 支持仍处于禁用状态。
  • Linux 构建包括 Ubuntu x64/arm64/s390x CPU 版本、Vulkan、ROCm 7.2、OpenVINO 和 SYCL FP32/FP16 变体。
  • Android arm64 (CPU) 二进制文件已提供,用于移动部署。
  • Windows 发布版涵盖 x64/arm64 CPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL 和 HIP 后端。
  • openEuler 支持包括 x86 和 aarch64 构建,带有用于 310p 和 910b 芯片的 ACL Graph,但标准 openEuler 已禁用。
  • 独立 UI 二进制文件也包含在发布资产中。

此版本提供了跨多个平台和硬件加速器的更新二进制文件,确保与各种 CPU 和 GPU 架构兼容。