llama.cpp 项目发布了构建版本 b10995,修改了 Vulkan 后端对 MUL_MAT_ID 操作的处理。具体来说,该更改通过将 BN/2 设为 BNover2 的默认值并作为 BNover4 的禁用回退方案,使 BN/2 尾部无条件化,同时移除了该分支上的启用门控。

此次发布包含适用于 macOS(Apple Silicon 和 Intel)、iOS、Linux(CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL)、Android、Windows(CPU、OpenCL、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm)和 openEuler 的二进制文件。

此更新为用户提供了跨多个平台和硬件加速器的更新构建。