Le projet llama.cpp a publié la version b9922, qui introduit un nouveau paramètre `n_keep_tail` dans la fonction `split_equal`, spécifiquement pour les modèles récurrents.

  • Les binaires macOS Apple Silicon (arm64) sont disponibles.
  • Les binaires macOS Intel (x64) sont fournis.
  • Le XCFramework iOS est inclus.
  • Les builds CPU Ubuntu x64 et arm64 sont publiés.
  • Les variantes Ubuntu Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 et SYCL FP16 sont disponibles.
  • Les binaires CPU Android arm64 sont fournis.
  • Les builds CPU Windows x64 et arm64 sont publiés.
  • Les builds Windows CUDA 12.4, CUDA 13.3, Vulkan, OpenVINO, SYCL et HIP sont disponibles.
  • Les builds openEuler x86 et aarch64 avec prise en charge d'ACL Graph sont inclus.
  • Un package UI autonome est fourni.

Cette mise à jour étend la distribution binaire de llama.cpp à travers plusieurs plateformes et accélérateurs matériels.