llama.cpp 项目已发布 b9846 版本，其中包含针对 Asahi Linux 的 Vulkan 后端优化。此更新将矩阵乘法中的块大小循环回滚，以改善在运行 Linux 的 Apple Silicon 硬件上的兼容性和性能。

  • Vulkan：通过直接编辑 SPIR-V，为 Asahi Linux 回滚 matmul 中的 BK 循环。
  • Vulkan：撤销之前的 BK 循环展开更改并修复内联注释。
  • macOS/iOS：提供适用于 Apple Silicon (arm64) 和 Intel (x64) 的二进制文件，已禁用 KleidiAI。
  • Linux：为 Ubuntu x64、arm64 和 s390x 提供构建版本，涵盖 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 后端。
  • Windows：为 x64 和 arm64 提供 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP 构建版本。
  • Android：发布 arm64 CPU 二进制文件。

此发布确保了 Asahi Linux 上稳定的 Vulkan 支持，同时为广泛的硬件架构和加速库提供了全面的预构建二进制文件。