llama.cpp 项目发布了版本 b9924,其中包括对融合操作的重构。此更新还解决了平台特定的配置问题, notably 禁用了 macOS Apple Silicon 构建中的 KleidiAI 集成。

  • 重构了核心代码库中的融合操作。
  • 由于 pull request #23780 中跟踪的问题,禁用了 macOS/iOS 的 KleidiAI 支持。
  • 提供了适用于 macOS(Apple Silicon 和 Intel)、iOS、Linux(CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL)、Android、Windows(CPU、CUDA 12/13、Vulkan、OpenCL、OpenVINO、SYCL、HIP)和 openEuler 的二进制文件。

该版本确保了与广泛硬件架构和后端实现的兼容性,同时移除了有问题的功能。