github llama.cpp · il y a 1 j · inference

llama.cpp b10955 corrige une corruption de tas dans ggml-cpu

Traduit de English → Français

Le projet llama.cpp a publié la version b10955, qui inclut un correctif critique pour une corruption de tas au sein du backend ggml-cpu. La mise à jour désactive l'en-tête précompilé (PCH) et supprime une définition ambiguë de CACHE_LINE_SIZE afin de résoudre des problèmes de sécurité mémoire.

La désactivation du PCH ggml-cpu restaure l'ordre naturel d'inclusion, garantissant que ops.h est traité avant les en-têtes d'interférence matérielle.
La suppression de la branche std::hardware_destructive_interference_size rend CACHE_LINE_SIZE déterministe et indépendante de l'ordre d'inclusion.
Le correctif résout une incompatibilité où les noyaux C++ utilisaient des lignes de cache de 256 octets tandis que le code C utilisait des solutions de repli de 64 octets, ce qui sous-estimait précédemment la taille des tampons rope.
Cette correction empêche les plantages par dépassement de tas (heap-buffer-overflow) dans ggml_compute_forward_rope_flt causés par l'écart de taille du tampon.

La publication fournit des binaires pour les plateformes macOS (Apple Silicon et Intel), Linux (x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL), Android et openEuler.

Importance 1/3 Confiance 1/3 llama.cpp Hugging Face Inference efficiency

Lire l'original

Articles similaires

github llama.cpp · il y a 1 h · 1 vue En direct

llama.cpp b10984 ajoute le support CUDA pour SUM_ROWS contigu par ligne

Le projet llama.cpp a publié la version b10984, introduisant le support CUDA pour les opérations SUM_ROWS contiguës par ligne. Cette mise à jour organise également le code pour inclure GGML_OP_MEAN afin de gérer les tenseurs contigus par ligne via un noyau partagé.

github llama.cpp · il y a 2 h · 1 vue

llama.cpp b10985 restreint le cache hash RPC aux poids

Le projet llama.cpp a publié la version b10985, qui modifie le backend RPC pour limiter le stockage en cache basé sur le hachage exclusivement aux tenseurs de poids. Cette modification résout un problème où les données d'activation étaient inutilement hashées et stockées, entraînant une utilisation excessive du disque.

github llama.cpp · il y a 4 h · 2 vues

llama.cpp b10981 corrige le décodage d'état pour Gemma-4 et optimise l'inférence GPU MoE

La version b10981 de llama.cpp résout des problèmes critiques de correction dans le chemin de décodage d'état du backend OpenVINO, en corrigeant spécifiquement la prise en charge des modèles comme Gemma-4 qui utilisent des tailles de tête par couche. Elle introduit également des optimisations pour l'inférence GPU Mixture of Experts (MoE) et améliore les performances grâce à des réorganisations d'état KV.

github llama.cpp · il y a 5 h · 1 vue

llama.cpp ajoute des noyaux Metal FA pour HSK=96, HSV=64 de MiniCPM3

Le projet llama.cpp a ajouté la prise en charge du noyau Flash Attention (FA) pour la configuration spécifique utilisée par MiniCPM3 sur Apple Silicon. Cette modification corrige un plantage où le drapeau `-fa auto` s'arrêtait en raison d'une instanciation de noyau manquante pour la longueur de clé d'attention 96 et la longueur de valeur 64.

github llama.cpp · il y a 19 h · 3 vues

La version b10970 de llama.cpp utilise l'accumulation fp32 sur les appareils MFMA

Le projet llama.cpp a publié la version b10970, qui inclut une mise à jour technique du backend fattn-mma. Ce changement implémente l'utilisation d'accumulateurs fp32 spécifiquement pour les dispositifs de l'architecture CDNA.