llama.cpp 项目发布了 b9949 版本,引入了针对 Adreno GPU 的新 OpenCL 功能。此更新实现了集群并行解码 Flash Attention (FA),以提高兼容硬件上的性能。
- 提供 macOS Apple Silicon 和 Intel 二进制文件。
- 发行版中包含 iOS XCFramework。
- Linux 构建涵盖 x64、arm64 和 s390x 架构的 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 变体。
- Windows 支持包括 CPU、Vulkan、HIP、OpenVINO、SYCL 和 CUDA 12/13 二进制文件。
- 提供 Android arm64 CPU 构建。
- 此版本中禁用了 macOS Apple Silicon 上的 KleidiAI 支持。