Проект llama.cpp выпустил версию b9949, внедряющую новую функцию OpenCL для GPU Adreno. Это обновление реализует кластерно-параллельный декодер Flash Attention (FA) для повышения производительности на совместимом оборудовании.

  • Доступны бинарные файлы macOS Apple Silicon и Intel.
  • В релиз включен XCFramework для iOS.
  • Сборки Linux охватывают варианты CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL для архитектур x64, arm64 и s390x.
  • Поддержка Windows включает бинарные файлы CPU, Vulkan, HIP, OpenVINO, SYCL и CUDA 12/13.
  • Предоставлены сборки Android arm64 CPU.
  • Поддержка KleidiAI на macOS Apple Silicon отключена в этой версии.