llama.cpp 项目发布了构建版本 b9932,其中包含一项 Vulkan 优化,该优化禁用了 GCN 架构上的 FA mask_opt 功能以提升性能。

  • 更新重新启用了注意力头大小大于 256 的 mask opt。
  • 此版本中禁用了带有 KleidiAI 的 macOS Apple Silicon 构建。
  • 提供了 Ubuntu(CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL)、Windows(CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)、Android 和 macOS Intel 的二进制文件。
  • openEuler 支持部分禁用,x86 和 aarch64 构建可用于特定的硬件配置。