Le projet llama.cpp a publié la version b9918, qui inclut l'ajout d'une fonction `set_rows` avec le support de `src0 f16` via la demande de tirage #25434. Cette mise à jour est co-écrite par Georgi Gerganov.

  • Les binaires pour macOS Apple Silicon (arm64) sont disponibles, tandis que le support KleidiAI reste désactivé.
  • Les builds Linux couvrent Ubuntu x64 et arm64 pour CPU, Vulkan, ROCm 7.2, OpenVINO et SYCL FP32/FP16.
  • Des binaires CPU Android arm64 sont fournis.
  • Les versions Windows incluent les variantes CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL et HIP.
  • Le support openEuler pour les architectures x86 et aarch64 est listé, avec certaines configurations désactivées.
  • Un binaire UI autonome est également inclus dans la version.