Проект llama.cpp выпустил версию b9838, предоставляя предварительно собранные бинарные файлы для широкого спектра операционных систем и аппаратных ускорителей. Этот выпуск включает поддержку CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) и специализированных AI-ускорителей на macOS, Linux, Windows, Android и openEuler.

  • Сборки для macOS доступны для Apple Silicon (arm64) и Intel (x64), с отключенной поддержкой KleidiAI.
  • Бинарные файлы для Linux предоставлены для архитектур Ubuntu x64, arm64 и s390x, включая варианты CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL.
  • Выпуски для Windows включают сборки CPU, CUDA 12/13, Vulkan, OpenCL Adreno, OpenVINO, SYCL и HIP для x64 и arm64.
  • Поддержка Android ограничена сборками CPU для arm64.
  • Сборки для openEuler доступны для архитектур x86 и aarch64 с использованием ACL Graph, при этом стандартная поддержка openEuler отключена.

Выпуск позволяет пользователям разворачивать llama.cpp на разнообразных аппаратных конфигурациях без компиляции из исходного кода.