Проект llama.cpp выпустил версию b9973, которая включает специфическое обновление для моделей DeepseekV4. Основное изменение заключается в очистке кэша только для последовательности, а не всего контекста.

  • Доступны бинарные файлы macOS Apple Silicon и Intel.
  • Предоставлен XCFramework для iOS.
  • Сборки Ubuntu охватывают бэкенды CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL.
  • Включен бинарный файл arm64 CPU для Android.
  • Сборки Windows поддерживают CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP.
  • Доступны сборки openEuler x86 и aarch64 с ACL Graph.

Этот выпуск предоставляет обновленные бинарные файлы для различных платформ и аппаратных ускорителей.