llama.cpp 项目发布了构建版本 b9888,其中包括一项 CUDA 更新,旨在将 K 类型验证扩展到 V 类型以支持 flash attention。

  • macOS Apple Silicon 构建版本可用,但 KleidiAI 支持已禁用。
  • Linux 二进制文件涵盖 x64、arm64 和 s390x 架构上的 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 目标。
  • Windows 发行版包括 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP 变体。
  • 提供 Android arm64 (CPU) 和 iOS XCFramework 构建版本。
  • openEuler 对 x86 和 aarch64 架构的支持已部分禁用。

此版本在多个平台和硬件加速器上提供了更新的二进制文件。