Le projet llama.cpp a publié la version b10437, qui introduit la prise en charge native des modèles de langage causal MiniMax-Text-01 et MiniMax-M1. Cette mise à jour inclut les scripts de conversion nécessaires, les modèles de chat et les implémentations d'architecture du modèle pour exécuter ces modèles spécifiques dans le cadre de llama.cpp.
Le projet llama.cpp a publié la version b10435, qui résout un problème de performance au sein du moteur de templates Jinja. Le changement principal corrige un bug de complexité temporelle quadratique dans la fonction `gather_string_parts`.
Le projet llama.cpp a publié la compilation b10434, qui ajoute le support pour transmettre le paramètre `reasoning_effort` aux modèles Jinja. Ce changement garantit que les valeurs de `reasoning_effort` d'OpenAI Chat Completions sont stockées et disponibles pendant la génération.
Le projet llama.cpp a publié la version b10431, qui introduit le support du rollback de l'état récurrent (RS) dans l'opération ggml_ssm_scan. Ce changement permet le rollback RS pour les modèles Nemotron sur les backends CPU et CUDA.
Le projet llama.cpp a publié la version b10429, qui modifie le serveur pour permettre l'accès aux points de terminaison /metrics et /slots pendant que llama_decode() s'exécute.
Le projet llama.cpp a publié la version b10430, qui introduit le support des périphériques GPU intégrés (igpu) virtuels. Cette mise à jour comprend également des commentaires améliorés au sein de la base de code.
Le projet llama.cpp a publié la version b10427, qui inclut une optimisation de performance pour les GPU Intel Arc via SYCL. La mise à jour implémente la fusion des opérations gate, up et GLU au sein de la couche feed-forward dense (FFN) q4_K.
Le projet llama.cpp a publié la version b10425, qui inclut un port de l'optimisation SYCL pour fusionner la copie d'écriture d'état gated-delta-net.
Le projet llama.cpp a publié la version b10418, introduisant le support de la mémoire fixe hôte pour améliorer l'accès à la mémoire Hôte-vers-Dispositif dans SYCL. Cette mise à jour traite des problèmes de sécurité des threads au sein de l'implémentation du backend.
Le projet llama.cpp a fusionné des mises à jour significatives pour son backend OpenVINO, permettant principalement le support de la famille de modèles Qwen3.5 et introduisant plusieurs techniques d'optimisation mémoire.
Le projet llama.cpp a publié la compilation b10416, traitant un problème de cache sur le site web llama.app où le fichier index.html était épinglé aux anciennes compilations en raison d'en-têtes immuables.
Le projet llama.cpp a publié la version b10413, qui introduit la détection automatique du type de spécification du décodage spéculatif directement à partir des métadonnées du modèle draft GGUF.
Le projet llama.cpp a publié la compilation b10414, introduisant le support du type de quantification ternaire GGML_TYPE_TQ2_0 dans le backend Metal. Cette mise à jour inclut également des optimisations pour le noyau mul_mv de tenseurs contigus (cont).
Le projet llama.cpp a publié la version b10412, qui introduit le support de l'échantillonnage backend pour les backends dflash et dspark. Cette mise à jour permet également des valeurs p_min supérieures à 0 dans la logique d'échantillonnage backend et ajoute les sauvegardes correspondantes.
Le projet llama.cpp a publié la version b10410, qui inclut un changement de code pour le backend SYCL. Cette mise à jour supprime la promotion de type fp32 séparée dans le chemin GEMM non-oneDNN et utilise à la place la promotion automatique fp16.
Le projet llama.cpp a publié la version b10408, qui introduit un noyau DMMV Q3_K ESIMD pour les GPU Intel. Cette version comprend également de nouveaux noyaux ESIMD Q4_K et Q6_K et refactorise la base de code pour permettre le contrôle d'ESIMD à l'exécution plutôt qu'à la compilation.
Le projet llama.cpp a publié la version b10369, introduisant le support pour le modèle de synthèse vocale pocket-tts. Cette mise à jour inclut une nouvelle implémentation des convolutions transposées utilisant GEMM et col2im pour optimiser les performances.
La version b10361 de llama.cpp corrige un bug critique où l'attention à fenêtre glissante (SWA) n'était pas activée pour le modèle LGAI-EXAONE 4.5 en raison d'un ordre incorrect des paramètres lors du chargement.
Le projet llama.cpp a publié la version b10356, qui cible principalement l'infrastructure de compilation en passant le backend ROCm de la version 7.2.1 à 7.14. Cette mise à jour s'aligne sur ROCm 7.14 étant la première version de production utilisant le système de build TheRock et implique la migration des tâches CI pour utiliser des wheels multi-architectures tant sous Linux que sous Windows.
Le projet llama.cpp a publié la version b10355, introduisant le support de l'échantillonnage backend multi-sortie. Cette mise à jour permet de combiner l'échantillonnage backend avec la spéculation de tokens et ajoute un paramètre de contexte numérique pour déclarer le nombre maximum de sorties par séquence.