llama.cpp 项目发布了版本 b9992,其中包括对 MMQ 内核配置的重组。此更新专门解决并修复了 NVIDIA Blackwell 架构的配置,同时移除了遗留代码。

  • 重组 MMQ 内核配置以改进 CUDA 支持。
  • 修复 Blackwell GPU 配置问题。
  • 从代码库中移除遗留代码。

此版本为 macOS、Linux、Windows、Android 和 openEuler 提供了更新的二进制文件,涵盖包括 CPU、Vulkan、ROCm、OpenVINO、SYCL 和 HIP 在内的各种硬件后端。