NVIDIA выпустила модель Qwen3.6-27B-NVFP4 на Hugging Face.
Проверочная точка теперь доступна для загрузки.
media
r/LocalLLaMA
·
50 д назад
·
ист: 56 д назад
·
open_models
NVIDIA выпустила модель Qwen3.6-27B-NVFP4
Переведено с English → Русский
Похожие статьи
arxiv
arXiv cs.LG
·
23 ч назад
·
12 просмотров
Quantization-Aware Healing восстанавливает 4-битные LLM быстрее, чем QAT
Авторы представляют Quantization-Aware Healing (QAH), конвейер, который дистиллирует студентов 4-битных моделей непосредственно из несжатых моделей для восстановления производительности, потерянной во время структурного сжатия и квантования. Примененный к GPT-OSS 120B, этот метод производит Hypernova-60B, который соответствует или превосходит источник bfloat16 на 7 из 9 бенчмарков, используя примерно в 4 раза меньше памяти весов.
arxiv
arXiv cs.CL
·
23 ч назад
·
9 просмотров
Quantization-Aware Healing восстанавливает модели LLM на 4 бита быстрее, чем QAT
Авторы представляют Quantization-Aware Healing (QAH), метод восстановления способностей к рассуждению и написанию кода в структурно сжатых больших языковых моделях на 4 бита. В отличие от стандартного обучения с учётом квантования, которое переобучает сжатую модель, QAH дистиллирует студента 4-битной модели напрямую из исходной несжатой модели.
media
r/LocalLLaMA
·
8 д назад
·
16 просмотров
NVIDIA запускает Qwen 3.8 2.4T на GB300 NVL72 со скоростью 4K токенов/с на GPU
NVIDIA продемонстрировала развертывание модели Qwen 3.8 2.4T с параметрами и настраиваемыми возможностями рассуждения на аппаратной платформе GB300 NVL72.
media
r/LocalLLaMA
·
10 д назад
·
8 просмотров
Qwen выпустила открытые веса для Qwen 3.8 27B
Qwen выпустила открытые веса для своей модели Qwen 3.8 27B. Чекпоинт доступен на Hugging Face.
lab
NVIDIA Technical Blog
·
12 д назад
·
14 просмотров
Alibaba выпустила открытые веса Qwen3.8-2.4T-A95B для NVIDIA GB300 NVL72
Alibaba выпустила открытые веса для Qwen3.8-2.4T-A95B (также известной как Qwen3.8-Max), своей крупнейшей модели с открытыми весами, предназначенной для предоставления возможностей, близких к передовым, в открытой экосистеме.