llama.cpp 项目发布了版本 b11055,引入了对 Hexagon DSP 上 GEGLU_QUICK 激活函数的支持。

  • 该版本包含适用于 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x)、Windows 和 Android 的二进制文件。
  • GPU 加速通过 Linux 上的 CUDA 12.8/13.3、ROCm 10.0、Vulkan、OpenVINO 和 SYCL,以及 Windows 上的 CUDA、OpenCL、Vulkan、OpenVINO 和 SYCL 支持。
  • 目前禁用了带有 KleidiAI 的 macOS Apple Silicon 构建。
  • 还列出了对 openEuler 的支持,尽管某些配置被标记为禁用。

此更新为用户提供了更广泛的硬件兼容性以及针对基于 Hexagon 的设备优化的推理能力。