llama.cpp 项目发布了版本 b9973，其中包括针对 DeepseekV4 模型的特定更新。主要更改涉及仅清除序列的缓存，而不是整个上下文。

  • macOS Apple Silicon 和 Intel 二进制文件可用。
  • 提供 iOS XCFramework。
  • Ubuntu 构建涵盖 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 后端。
  • 包含 Android arm64 CPU 二进制文件。
  • Windows 构建支持 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP。
  • 提供带有 ACL Graph 的 openEuler x86 和 aarch64 构建。

此发布为各种平台和硬件加速器提供了更新的二进制文件。