llama.cpp 项目发布了 b9884 版本,其中包含对 Vulkan 后端中 CEIL_DIV 函数的 32 位整数溢出的修复。

  • macOS Apple Silicon (arm64) 二进制文件可用,而 KleidiAI 支持已禁用。
  • Linux 构建涵盖 Ubuntu x64 和 arm64 CPU、s390x CPU、Vulkan、ROCm 7.2、OpenVINO 以及 SYCL FP32/FP16。
  • 提供了 Android arm64 CPU 二进制文件。
  • Windows 构建包括 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP 变体。
  • openEuler 支持部分禁用,提供针对 x86 和 aarch64 架构的特定构建。
  • 发布版本中还包含一个独立的用户界面二进制文件。