Le projet llama.cpp a publié la version b11284, qui inclut une correction pour le backend OpenVINO afin de gérer correctement les opérations GET_ROWS sur les vues de poids quantifiés.
Le projet llama.cpp a publié la version b11280, qui inclut une modification pour réduire la synchronisation allreduce des tenseurs en utilisant des tampons hôtes épinglés.
Le projet llama.cpp a publié la compilation b11282, qui inclut une correction pour définir la macro `CUDA_ARCH` pour les passes de périphérique MUSA. Auparavant, l'en-tête du fournisseur MUSA ne définissait pas cette variable, ce qui faisait que les tests d'architecture dans les sources partagées ggml-cuda étaient évalués à zéro et entraînaient des corps de noyau vides.
Le projet llama.cpp a ajouté un support initial pour l'architecture du modèle GLM-5.3-Flash (GLM5-Next), y compris la migration vers une mémoire à index hybride et les premières capacités de Multi-Token Prediction (MTP).
Le projet llama.cpp a publié la version b11273, qui introduit le support de la méthode `classifier_pooling` dans les modèles de reranking, en ciblant spécifiquement les architectures ModernBERT.
Le projet llama.cpp a publié la compilation b11272, qui inclut des optimisations pour le backend Hexagon. Le changement principal se concentre sur l'optimisation de l'opération de concaténation pour améliorer les performances sur le matériel Qualcomm Snapdragon.
Le projet llama.cpp a publié la version b11266, qui inclut une optimisation Vulkan chargeant les matrices A F32 par deux éléments lorsqu'elles sont alignées sur 2. Ce changement résout des problèmes de performance sur le matériel Intel où charger les flottants un par un est inefficace, et corrige également une validation manquante pour l'alignement de `a_offset` dans le patch original.
La version llama.cpp b11265 inclut une correction pour la gestion des modèles Mixture of Experts (MoE) par le backend Vulkan. La mise à jour corrige la façon dont `mat_mul_id` sélectionne les tuiles de multiplication matricielle, résolvant un problème de performance où les travailleurs restaient inactifs lors du dispatch.
Le projet llama.cpp a publié la version b11260, introduisant le support des fonctions d'activation FP32 GELU_ERF et GEGLU_ERF dans le backend Hexagon. Cette mise à jour inclut également des optimisations pour réduire la pression sur les registres au sein des noyaux associés.
Le projet llama.cpp a publié la compilation b11258, qui inclut une correction pour le comportement du service worker de l'interface web intégrée. Auparavant, l'utilisation de drapeaux comme `--path` ou `--no-ui` faisait que les navigateurs conservaient des versions en cache de l'interface car le serveur renvoyait un 404 pour `/sw.js`, ce qui ne déclenche pas la suppression du service worker.
Le projet llama.cpp a publié la version b11254, qui inclut une correction concernant la manière dont les tenseurs d'entrée sont collectés dans le graphe de calcul. Auparavant, `graph_inputs` était peuplé lors du fractionnement du graphe, ce qui provoquait des problèmes avec le parallélisme de pipeline où la commutation entre des lots consommant différentes entrées entraînait des comparaisons d'ID backend erronées et forçait des réréservations du planificateur.
Le serveur llama.cpp prend désormais en charge les entrées de contenu typées (vision, audio, vidéo) pour le point de terminaison /v1/embeddings. Cette mise à jour permet des requêtes d'embedding multimodal en acceptant des tableaux de contenu enveloppés au format OpenAI, permettant ainsi de traiter ensemble les parties texte et image_url.
Le projet llama.cpp a publié la version b11238, introduisant une implémentation unifiée du remplissage à gauche via la nouvelle fonction `ggml_pad_ext`. Ce changement consolide les méthodes précédentes utilisées par les encodeurs audio tels que Parakeet, LFM2-Audio, Granite Speech et Gemma 4, garantissant des embeddings bit-à-bit identiques pour Gemma 4 tout en simplifiant le support des backends.
Le projet llama.cpp a publié la compilation b11232, qui inclut des mises à jour pour le backend ggml-cpu. La publication se concentre sur l'activation de l'attention flash en tuiles pour les dimensions de tête non multiples du vecteur sur les architectures x86.
La version llama.cpp b11228 introduit le support du remplissage gauche et circulaire dans l'opération GGML_OP_PAD du backend Metal, l'alignant avec les implémentations CPU, CUDA et Vulkan. Cette modification corrige les problèmes de remplissage droit pour les sources permuted et assure un comportement cohérent entre différents backends matériels.
Le projet llama.cpp a publié la compilation b11227, qui inclut des optimisations de performance spécifiquement ciblées sur la gestion du drapeau `causal_attn` lors du traitement multimodal.
La version llama.cpp b11224 traite les résultats de calcul incorrects dans le backend Vulkan lorsque les opérations de multiplication de matrices lisent des tranches de tenseurs plus grands et en stride, tels que les caches KV.
Le serveur llama.cpp autorise désormais le RANK pooling batch splitting pour les rerankers LLM causaux tels que Qwen3 et Qwen3-VL, résolvant des limitations précédentes qui cassaient le reranking de documents longs et multimodaux.
La version b11216 de llama.cpp introduit des noyaux Fast Walsh-Hadamard Transform (FWHT) dans le backend SYCL qui prennent en charge des largeurs de bloc supérieures à 512. Auparavant, les largeurs plus grandes basculaient vers un GEMM dense avec une complexité O(n^2) ; ce changement permet des performances O(n log n) pour ces tailles.
Le projet llama.cpp a publié la version b11214, qui inclut une mise à jour clé du backend HIP. Cette version active le kernel fattn-mma sur les architectures CDNA lorsque dkq est supérieur à 256, visant spécifiquement des améliorations de performance pour les grands lots.