llama.cpp 项目发布了 b10019 版本,通过 SYCL 引入了对 conv2d_dw 操作中 fp16 内核类型的支持。

  • macOS 和 iOS 构建适用于 Apple Silicon (arm64) 和 Intel (x64),以及 iOS XCFramework。
  • Linux 二进制文件涵盖 Ubuntu x64 和 arm64 CPU、s390x CPU、Vulkan、ROCm 7.2、OpenVINO 以及 SYCL FP32/FP16 变体。
  • 提供了 Android arm64 CPU 构建。
  • Windows 发行版包括 CPU (x64/arm64)、OpenCL Adreno、CUDA 12.4 和 13.3、Vulkan、OpenVINO、SYCL 和 HIP 二进制文件。
  • openEuler 对 x86 和 aarch64 架构的支持在此版本中标记为已禁用。
  • 还包含一个独立的 UI 包。