llama.cpp 项目发布了版本 b9934,其中通过 ggml-webgpu 对 flash_attn_vec 函数内的子组分割参数 (d_split) 进行了调整。
此版本提供了适用于 macOS Apple Silicon 和 Intel、Linux Ubuntu(支持 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL)、Android arm64、Windows(支持 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP)的二进制文件,以及 openEuler x86 和 aarch64 的构建版本。
此次更新还包括用于跨平台使用的标准 llama.cpp UI 包。