media Hugging Face Forums · il y a 4 j · open_models

loo5x lance llama-modes v0.4.0 pour l'inférence structurée dans llama.cpp

Traduit de English → Français

loo5x a lancé llama-modes v0.4.0, un fork de llama.cpp qui permet de charger un seul modèle GGUF une fois pour effectuer plusieurs modes d'inférence structurée sans changer de modèles ni ajouter de classificateurs.

Le mode BOOLEAN note directement les réponses Oui/Non.
Le mode CHOICE note des candidats arbitraires fournis, y compris des étiquettes multi-tokens.
Le mode SCALE évalue des échelles ordinales ou d'intervalle, renvoyant des distributions discrètes et des statistiques dérivées comme la médiane ou la valeur attendue.
Le projet inclut une version CUDA pour Windows, une démo locale avec React et la documentation de l'API.

Cette approche permet aux développeurs de réutiliser les mêmes poids de modèle en mémoire pour différentes primitives d'inférence, exposant directement la notation structurée depuis des modèles de langage locaux ordinaires.

Importance 1/3 Confiance 1/3 Hugging Face Forums Inference efficiency Local inference

Lire l'original

AiiStream Q3.6 permet d'exécuter Qwen3.6-35B-A3B sur des Mac avec 8 à 16 Go de RAM

L'auteur a publié AiiStream Q3.6, une technique open-source qui permet au modèle Qwen3.6-35B-A3B de fonctionner sur des appareils Apple Silicon avec seulement 8 à 16 Go de RAM. En conservant les experts routés sur le SSD et en utilisant des prédictions de chargement anticipé, la méthode réduit l'utilisation de la mémoire MLX à environ 1,7 Go tout en maintenant des sorties identiques au niveau des octets par rapport à l'implémentation standard de mlx_lm.

github llama.cpp · il y a 22 h · 1 vue

llama.cpp b11307 préserve l'ordre du lot pour le décodage spéculatif

Le projet llama.cpp a publié la compilation b11307, qui corrige l'ordre des entrées des couches pour préserver la séquence de lot originale lors du décodage spéculatif. Ce changement garantit que l'ordre des tokens est correctement maintenu pour les embeddings NextN non masqués et compatible avec les divisions de tenseurs.

github llama.cpp · il y a 1 j · 1 vue

llama.cpp b11301 corrige un débordement entier dans ggml/gguf

Le projet llama.cpp a publié la compilation b11301, qui inclut une correction pour un problème de débordement entier au sein des composants ggml et gguf. Cette mise à jour traite la logique de validation pour prévenir d'éventuelles erreurs lors de la manipulation de tenseurs à zéro élément.

github llama.cpp · il y a 1 j · 3 vues

llama.cpp b11302 corrige une course de données ThreadSanitizer dans l'indexeur creux

Le projet llama.cpp a publié la version b11302, qui résout un problème critique de concurrence identifié par ThreadSanitizer dans le pipeline CI. La mise à jour corrige une course de données au sein du mécanisme d'attention creuse où plusieurs threads CPU écrivaient incorrectement sur les mêmes éléments mémoire.

github llama.cpp · il y a 1 j · 2 vues

llama.cpp b11298 ajoute le support de dflash pour la conversion et l'extraction de fonctionnalités

Le projet llama.cpp a publié la compilation b11298, qui introduit le support du format dflash. Cette mise à jour permet à la fois la conversion des modèles vers ce format et les capacités ultérieures d'extraction de fonctionnalités.