llama.cpp 项目发布了 b10021 版本,其中包含一项针对 DeepSeek V4 模型减少图分割的更改。

此更新提供了跨多个平台和硬件配置的预构建二进制文件和框架。macOS 构建适用于 Apple Silicon (arm64) 和 Intel (x64),以及 iOS XCFramework。Linux 支持涵盖使用 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32 和 SYCL FP16 后端的 Ubuntu x64、arm64 和 s390x 架构。还包含了 Android arm64 (CPU) 二进制文件。

Windows 用户可以下载适用于 x64 和 arm64 CPU 的构建版本,以及通过 OpenCL Adreno、CUDA 12.4、CUDA 13.3、Vulkan、OpenVINO、SYCL 和 HIP 支持的 GPU。此外,还提供了使用 ACL Graph 的 x86 和 aarch64 架构的 openEuler 构建版本。