llama.cpp 项目已发布 b9802 版本,提供跨多个操作系统和硬件架构的预构建二进制文件。此更新支持在 macOS、Linux、Windows、Android 和 openEuler 等平台上的 CPU、GPU 以及专用 AI 加速器。
- macOS 构建适用于 Apple Silicon (arm64) 和 Intel (x64),同时提供 iOS XCFramework。
- Linux 二进制文件涵盖 Ubuntu x64 和 arm64 CPU,Vulkan、ROCm 7.2、OpenVINO 以及 SYCL FP32/FP16 变体。
- Windows 发布版包括 CPU、CUDA 12.4 和 13.3、Vulkan、OpenVINO、SYCL、HIP 以及 OpenCL Adreno 选项。
- Android 支持 arm64 CPU,openEuler 构建适用于 x86 和 aarch64 架构。
该版本使用户能够在各种设备上本地运行 llama.cpp,无需进行本地编译。