Le projet llama.cpp a publié la version b9846, qui inclut une optimisation du backend Vulkan pour Asahi Linux. Cette mise à jour annule la boucle de taille de bloc dans la multiplication matricielle afin d'améliorer la compatibilité et les performances sur le matériel Apple Silicon sous Linux.

  • Vulkan : Annule la boucle BK dans matmul pour Asahi Linux via l'édition directe de SPIR-V.
  • Vulkan : Annule les modifications précédentes de déroulement de la boucle BK et corrige les commentaires inline.
  • macOS/iOS : Fournit des binaires pour Apple Silicon (arm64) et Intel (x64), avec KleidiAI désactivé.
  • Linux : Propose des builds pour Ubuntu x64, arm64 et s390x sur les backends CPU, Vulkan, ROCm 7.2, OpenVINO et SYCL.
  • Windows : Inclut des builds CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL et HIP pour x64 et arm64.
  • Android : Publie un binaire CPU arm64.

Cette version assure un support Vulkan stable sur Asahi Linux tout en fournissant des binaires précompilés complets pour une large gamme d'architectures matérielles et de bibliothèques d'accélération.