Le projet llama.cpp a publié la version b9932, qui inclut une optimisation Vulkan désactivant la fonctionnalité FA mask_opt sur les architectures GCN afin d'améliorer les performances.

  • La mise à jour réactive l'opt de masquage pour les tailles de tête d'attention supérieures à 256.
  • Les builds macOS Apple Silicon avec KleidiAI sont désactivés dans cette version.
  • Des binaires sont fournis pour Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), Android et macOS Intel.
  • Le support openEuler est partiellement désactivé, avec des builds x86 et aarch64 disponibles pour des configurations matérielles spécifiques.