Проект llama.cpp выпустил версию b9940, в которой добавлена инициализация параметра `params.offline` в `llama-bench`. Это обновление сопровождается комплексным набором предварительно собранных бинарных файлов для нескольких операционных систем и аппаратных ускорителей.

  • Доступны сборки macOS Apple Silicon (arm64) и Intel (x64) с отключенной поддержкой KleidiAI.
  • Бинарные файлы Linux охватывают Ubuntu x64 и arm64 CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL FP32/FP16.
  • Выпуски для Windows включают варианты для CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL и HIP.
  • Предоставлены бинарные файлы Android arm64 (CPU) и iOS XCFramework для развертывания на мобильных устройствах.
  • Включены сборки openEuler для архитектур x86 и aarch64 с поддержкой ACL Graph.

Выпуск предоставляет обновленные инструменты для бенчмаркинга офлайн-параметров наряду с обширной кроссплатформенной совместимостью для локального вывода моделей.