llama.cpp 项目发布了版本 b9918，其中通过 pull request #25434 添加了支持 `src0 f16` 的 `set_rows` 函数。此更新由 Georgi Gerganov 共同署名。

  • macOS Apple Silicon (arm64) 二进制文件可用，而 KleidiAI 支持仍处于禁用状态。
  • Linux 构建涵盖用于 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL FP32/FP16 的 Ubuntu x64 和 arm64。
  • 提供了 Android arm64 CPU 二进制文件。
  • Windows 版本包括 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP 变体。
  • 列出了对 x86 和 aarch64 架构的 openEuler 支持，其中一些配置已禁用。
  • 发布版本中还包含一个独立的 UI 二进制文件。