llama.cpp 项目发布了 b10066 版本,通过 OpenCL 引入了对 `kernel_gemm_moe_q6_k_f32_ns` 内核的支持。此更新允许在框架内加载和使用此特定的二进制内核库。

  • 该版本包含适用于 macOS (Apple Silicon 和 Intel)、iOS、Linux (Ubuntu x64, arm64, s390x 带 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16)、Windows (CPU、Vulkan、CUDA 12/13、OpenVINO、SYCL、HIP) 和 Android 的二进制文件。
  • 此构建中禁用了 macOS Apple Silicon 的 KleidiAI 支持。
  • 此版本也禁用了 openEuler 支持。

通过新的 OpenCL 内核实现,此更新为用户提供了更广泛的硬件兼容性。