llama.cpp 项目发布了版本 b11147,引入了一个用于 OpenCL 的新二进制内核。此更新专门添加了对 A8 Q6_K non-MoE dp4a 配置的支持。

  • 为 OpenCL 添加了 A8 Q6_K non-MoE dp4a 二进制内核。
  • 提供 macOS(Apple Silicon 和 Intel)、iOS、Linux(CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL、Snapdragon)、Android、Windows(CPU、Adreno、CUDA、Vulkan、OpenVINO、SYCL、ROCm)和 openEuler 的二进制文件。

此版本使用户能够在广泛的硬件平台上运行 llama.cpp,并拥有最新的内核优化。