NVIDIA a publié le modèle Qwen3.6-27B-NVFP4 sur Hugging Face.
Le checkpoint est désormais disponible au téléchargement.
media
r/LocalLLaMA
·
il y a 50 j
·
source : il y a 56 j
·
open_models
NVIDIA lance le modèle Qwen3.6-27B-NVFP4
Traduit de English → Français
Articles similaires
arxiv
arXiv cs.LG
·
il y a 22 h
·
12 vues
Quantization-Aware Healing récupère les LLM 4 bits plus rapidement que QAT
Les auteurs présentent Quantization-Aware Healing (QAH), un pipeline qui distille des étudiants 4 bits directement depuis des modèles non compressés pour récupérer la performance perdue lors de la compression structurelle et de la quantification. Appliqué à GPT-OSS 120B, cette méthode produit Hypernova-60B, qui égale ou bat la source bfloat16 sur 7 des 9 benchmarks tout en utilisant environ 4 fois moins de mémoire de poids.
arxiv
arXiv cs.CL
·
il y a 23 h
·
9 vues
Quantization-Aware Healing récupère les LLMs 4 bits plus rapidement que QAT
Les auteurs présentent Quantization-Aware Healing (QAH), une méthode pour récupérer les capacités de raisonnement et de codage dans des modèles de langage larges de 4 bits structurellement compressés. Contrairement à l'entraînement conscient de la quantification standard qui réadapte le modèle compressé, QAH distille l'étudiant 4 bits directement depuis le modèle original non compressé.
media
r/LocalLLaMA
·
il y a 8 j
·
16 vues
NVIDIA sert Qwen 3.8 2.4T sur GB300 NVL72 à 4K tok/s par GPU
NVIDIA a démontré le service du modèle de paramètres Qwen 3.8 2.4T avec des capacités de raisonnement configurables sur sa plateforme matérielle GB300 NVL72.
media
r/LocalLLaMA
·
il y a 10 j
·
8 vues
Qwen publie les poids ouverts pour Qwen 3.8 27B
Qwen a publié les poids ouverts pour son modèle Qwen 3.8 27B. Le checkpoint est disponible sur Hugging Face.
lab
NVIDIA Technical Blog
·
il y a 12 j
·
14 vues
Alibaba publie les poids ouverts de Qwen3.8-2.4T-A95B pour NVIDIA GB300 NVL72
Alibaba a publié les poids ouverts de Qwen3.8-2.4T-A95B (également connu sous le nom de Qwen3.8-Max), son plus grand modèle à poids ouverts, conçu pour apporter des capacités proches du sommet à l'écosystème ouvert.