llama.cpp 项目发布了版本 b10051,解决了可扩展矩阵扩展 (SME) 功能集成中的一个关键问题。该更新在构建时和运行时引入了 SME(v1) 和 SME2 之间的区分,以确保正确的内核分发。

  • 以前的版本将 SME 视为单一功能,错误地将仅适用于 SME2 的指令分发给仅支持 SME(v1) 的硬件。
  • 修复程序根据实际硬件支持连接 SME(v1) 和 SME2 内核,防止在仅支持 SME(v1) 的系统上错误执行。
  • 二进制文件适用于 macOS (Apple Silicon 和 Intel)、Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL)、Android、Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO, SYCL) 和 openEuler。

此更改通过尊重 CPU 支持的具体 SME 版本,确保 llama.cpp 在更广泛的 ARM 硬件上正确运行。