NVIDIA ha lanzado el modelo Qwen3.6-27B-NVFP4 en Hugging Face.
El checkpoint ya está disponible para su descarga.
media
r/LocalLLaMA
·
hace 50 d
·
fuente: hace 56 d
·
open_models
NVIDIA lanza el modelo Qwen3.6-27B-NVFP4
Traducido del English → Español
Artículos relacionados
arxiv
arXiv cs.LG
·
hace 22 h
·
12 vistas
Quantization-Aware Healing recupera LLMs de 4 bits más rápido que QAT
Los autores presentan Quantization-Aware Healing (QAH), una canalización que destila estudiantes de 4 bits directamente desde modelos sin comprimir para recuperar el rendimiento perdido durante la compresión estructural y cuantización. Aplicado a GPT-OSS 120B, este método produce Hypernova-60B, que iguala o supera al bfloat16 fuente en 7 de 9 benchmarks mientras usa aproximadamente 4 veces menos memoria de peso.
arxiv
arXiv cs.CL
·
hace 23 h
·
9 vistas
Quantization-Aware Healing recupera LLMs de 4 bits más rápido que QAT
Los autores presentan Quantization-Aware Healing (QAH), un método para recuperar capacidades de razonamiento y codificación en modelos de lenguaje grandes de 4 bits estructuralmente comprimidos. A diferencia del entrenamiento consciente de la cuantización estándar que re-ajusta el modelo comprimido, QAH destila al estudiante de 4 bits directamente desde el modelo original sin comprimir.
media
r/LocalLLaMA
·
hace 8 d
·
16 vistas
NVIDIA sirve Qwen 3.8 2.4T en GB300 NVL72 a 4K tokens/s por GPU
NVIDIA ha demostrado servir el modelo de parámetros Qwen 3.8 2.4T con capacidades de razonamiento configurables en su plataforma de hardware GB300 NVL72.
media
r/LocalLLaMA
·
hace 10 d
·
8 vistas
Qwen libera los pesos abiertos para Qwen 3.8 27B
Qwen ha liberado los pesos abiertos para su modelo Qwen 3.8 27B. El checkpoint está disponible en Hugging Face.
lab
NVIDIA Technical Blog
·
hace 12 d
·
14 vistas
Alibaba libera los pesos abiertos de Qwen3.8-2.4T-A95B para NVIDIA GB300 NVL72
Alibaba ha liberado los pesos abiertos de Qwen3.8-2.4T-A95B (también conocida como Qwen3.8-Max), su modelo de mayor tamaño con pesos abiertos, diseñado para llevar capacidades cercanas a las de vanguardia al ecosistema abierto.