llama.cpp 项目已发布版本 b9811,其中包含针对 Vulkan 中 conv2d coopmat2 路径的编译器 bug 的修复。根据 NVIDIA 工程师 Jeff Bolz 的建议,此修复方案也应用于基于 CONV_3D 的实现。
- macOS Apple Silicon (arm64) 和 Intel (x64) 二进制文件已提供,但禁用了 KleidiAI 支持。
- Linux 构建涵盖 CPU (x64, arm64, s390x)、Vulkan、ROCm 7.2、OpenVINO 以及 SYCL FP32/FP16 变体。
- 为移动设备提供了 Android arm64 CPU 二进制文件。
- Windows 发布版包括 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP 构建。
- x86 和 aarch64 架构的 openEuler 支持已禁用。
- 发布包中还包含一个独立的 UI 二进制文件。
此更新通过解决特定的编译器问题,确保了在 Vulkan 硬件上运行卷积操作的稳定性。