llama.cpp 项目发布了 b10054 版本,其中包含关于在 Adreno 810 GPU 上使用 OpenCL 的文档说明。

  • macOS Apple Silicon (arm64) 二进制文件可用,而 KleidiAI 支持已禁用。
  • Linux 构建涵盖用于 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL FP32/FP16 的 Ubuntu x64 和 arm64。
  • 提供了 Android arm64 (CPU) 二进制文件。
  • Windows 构建包括 CPU、Vulkan、OpenVINO、SYCL、HIP 和 CUDA 12/13 变体。
  • 列出了对 x86 和 aarch64 架构的 openEuler 支持,部分配置已禁用。

此版本为本地推理提供了主要操作系统和硬件加速器的更新二进制文件。