Проект llama.cpp выпустил версию b9949, внедряющую новую функцию OpenCL для GPU Adreno. Это обновление реализует кластерно-параллельный декодер Flash Attention (FA) для повышения производительности на совместимом оборудовании.
- Доступны бинарные файлы macOS Apple Silicon и Intel.
- В релиз включен XCFramework для iOS.
- Сборки Linux охватывают варианты CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL для архитектур x64, arm64 и s390x.
- Поддержка Windows включает бинарные файлы CPU, Vulkan, HIP, OpenVINO, SYCL и CUDA 12/13.
- Предоставлены сборки Android arm64 CPU.
- Поддержка KleidiAI на macOS Apple Silicon отключена в этой версии.