La version b9949 de llama.cpp ajoute le décodage FA en cluster parallèle pour Adreno

Le projet llama.cpp a publié la version b9949, introduisant une nouvelle fonctionnalité OpenCL pour les GPU Adreno. Cette mise à jour implémente le Flash Attention (FA) en décodage parallèle par cluster pour améliorer les performances sur le matériel compatible.

• Les binaires macOS Apple Silicon et Intel sont disponibles.
• Le XCFramework iOS est inclus dans la version.
• Les builds Linux couvrent les variantes CPU, Vulkan, ROCm 7.2, OpenVINO et SYCL pour les architectures x64, arm64 et s390x.
• La prise en charge de Windows inclut les binaires CPU, Vulkan, HIP, OpenVINO, SYCL et CUDA 12/13.
• Les builds CPU arm64 Android sont fournis.
• Le support KleidiAI sur macOS Apple Silicon est désactivé dans cette version.