media Hugging Face Forums · il y a 3 j · open_models

TheImmortalPython lance pklm-sandbox pour le masquage de tokens local

Traduit de English → Français

TheImmortalPython a lancé pklm-sandbox, un outil léger open-source conçu pour les développeurs expérimentant des contraintes de génération personnalisées dans Hugging Face transformers.

Il fournit un sandbox simple pour tester des pipelines de masquage de tokens personnalisés et le confinement linguistique sans dérive en utilisant l'architecture LogitsProcessor.
L'installation est disponible via pip depuis le dépôt GitHub.
Le processeur permet aux utilisateurs de bloquer des identifiants de tokens spécifiques directement dans le pipeline standard generate().

Le projet vise à offrir aux développeurs un point de départ propre pour implémenter un contrôle de tokens personnalisé localement.

Importance 1/3 Confiance 1/3 Hugging Face Forums Local inference

Lire l'original

AiiStream Q3.6 permet d'exécuter Qwen3.6-35B-A3B sur des Mac avec 8 à 16 Go de RAM

L'auteur a publié AiiStream Q3.6, une technique open-source qui permet au modèle Qwen3.6-35B-A3B de fonctionner sur des appareils Apple Silicon avec seulement 8 à 16 Go de RAM. En conservant les experts routés sur le SSD et en utilisant des prédictions de chargement anticipé, la méthode réduit l'utilisation de la mémoire MLX à environ 1,7 Go tout en maintenant des sorties identiques au niveau des octets par rapport à l'implémentation standard de mlx_lm.

github llama.cpp · il y a 10 h · 1 vue

llama.cpp b11320 ajoute un gestionnaire de dialecte Harmony pour LLM-jp-4.1

Le projet llama.cpp a publié la version b11320, qui inclut un nouveau gestionnaire de dialecte pour le modèle LLM-jp-4.1.

github llama.cpp · il y a 22 h · 1 vue

llama.cpp b11307 préserve l'ordre du lot pour le décodage spéculatif

Le projet llama.cpp a publié la compilation b11307, qui corrige l'ordre des entrées des couches pour préserver la séquence de lot originale lors du décodage spéculatif. Ce changement garantit que l'ordre des tokens est correctement maintenu pour les embeddings NextN non masqués et compatible avec les divisions de tenseurs.

github llama.cpp · il y a 1 j · 1 vue

llama.cpp b11301 corrige un débordement entier dans ggml/gguf

Le projet llama.cpp a publié la compilation b11301, qui inclut une correction pour un problème de débordement entier au sein des composants ggml et gguf. Cette mise à jour traite la logique de validation pour prévenir d'éventuelles erreurs lors de la manipulation de tenseurs à zéro élément.

github llama.cpp · il y a 1 j · 3 vues

llama.cpp b11302 corrige une course de données ThreadSanitizer dans l'indexeur creux

Le projet llama.cpp a publié la version b11302, qui résout un problème critique de concurrence identifié par ThreadSanitizer dans le pipeline CI. La mise à jour corrige une course de données au sein du mécanisme d'attention creuse où plusieurs threads CPU écrivaient incorrectement sur les mêmes éléments mémoire.