Le projet llama.cpp a publié la version b10057, qui inclut plusieurs corrections de bugs pour le backend SYCL ainsi que des distributions binaires standard sur plusieurs plateformes.

  • Corrige le calcul incorrect des lignes lorsque K_QUANTS_PER_ITERATION est 1 dans SYCL.
  • Met à jour le noyau Q5_K non réordonné pour utiliser K_QUANTS_PER_ITERATION.
  • Ajoute le traitement manquant de la seconde moitié au noyau q5_k réordonné.
  • Résout une erreur potentielle off-by-one et une vérification manquante de ligne > nrows dans le code SYCL.

Cette version fournit des binaires mis à jour pour macOS, Linux, Windows, Android et iOS, prenant en charge divers backends matériels incluant CPU, CUDA, Vulkan, ROCm, OpenVINO et SYCL.