Проект llama.cpp опубликовал выпуск b9802, предлагающий предварительно собранные бинарные файлы для нескольких операционных систем и аппаратных архитектур. Это обновление включает поддержку процессоров (CPU), графических процессоров (GPU) и специализированных ускорителей ИИ на таких платформах, как macOS, Linux, Windows, Android и openEuler.

  • Сборки для macOS доступны для Apple Silicon (arm64) и Intel (x64), а также iOS XCFramework.
  • Бинарные файлы для Linux охватывают процессоры Ubuntu x64 и arm64, Vulkan, ROCm 7.2, OpenVINO и варианты SYCL FP32/FP16.
  • Выпуски для Windows включают поддержку CPU, CUDA 12.4 и 13.3, Vulkan, OpenVINO, SYCL, HIP и опции OpenCL Adreno.
  • Поддержка Android предоставлена для процессоров arm64, а сборки openEuler доступны для архитектур x86 и aarch64.

Выпуск позволяет пользователям запускать llama.cpp локально на широком спектре устройств без необходимости локальной компиляции.