llama.cpp 프로젝트는 DeepseekV4 모델에 대한 특정 업데이트를 포함하는 버전 b9973을 출시했습니다. 주요 변경 사항 전체 컨텍스트가 아닌 시퀀스에만 대해 캐시를 지우는 것입니다.

  • macOS Apple Silicon 및 Intel 바이너리가 제공됩니다.
  • iOS XCFramework가 제공됩니다.
  • Ubuntu 빌드에는 CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL 백엔드가 포함됩니다.
  • Android arm64 CPU 바이너리가 포함되어 있습니다.
  • Windows 빌드는 CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP를 지원합니다.
  • ACL Graph가 있는 openEuler x86 및 aarch64 빌드가 제공됩니다.

이 릴리스는 다양한 플랫폼과 하드웨어 가속기를 위한 업데이트된 바이너리를 제공합니다.