NVIDIAはHugging FaceにQwen3.6-27B-NVFP4モデルを公開しました。
チェックポイントは現在ダウンロード可能です。
media
r/LocalLLaMA
·
50日前
·
ソース: 56日前
·
open_models
NVIDIAがQwen3.6-27B-NVFP4モデルをリリース
翻訳元 English → 日本語
関連記事
arxiv
arXiv cs.LG
·
22時間前
·
12 回表示
Quantization-Aware Healing は QAT よりも速く 4 ビット LLM を回復
著者は Quantization-Aware Healing (QAH) を導入しました。これは、構造的圧縮と量子化中に失われたパフォーマンスを回復するために、非圧縮モデルから直接 4 ビットの学生モデルを蒸留するパイプラインです。GPT-OSS 120B に適用すると、この手法は Hypernova-60B を生成し、9 つのベンチマークのうち 7 つで bfloat16 ソースと同等またはそれ以上のパフォーマンスを発揮しながら、重みメモリを約 4 分の 1 に抑えています。
arxiv
arXiv cs.CL
·
23時間前
·
9 回表示
Quantization-Aware HealingはQATより速く4ビットLLMを回復
著者は、構造的に圧縮された4ビット大規模言語モデルの推論およびコーディング能力を回復させる手法であるQuantization-Aware Healing（QAH）を紹介します。標準的な量子化 aware トレーニングが圧縮モデルを再適合させるのとは異なり、QAHは元の非圧縮モデルから4ビット学生モデルを直接蒸留します。
media
r/LocalLLaMA
·
8日前
·
16 回表示
NVIDIAがGB300 NVL72上でQwen 3.8 2.4TをGPUあたり4K tok/sで提供
NVIDIAは、構成可能な推論機能を持つQwen 3.8 2.4Tパラメータモデルを、そのGB300 NVL72ハードウェアプラットフォーム上で提供することをデモンストレーションしました。
media
r/LocalLLaMA
·
10日前
·
8 回表示
QwenがQwen 3.8 27Bのオープンウェイトをリリース
Qwenは、そのQwen 3.8 27Bモデルのオープンウェイトをリリースしました。 チェックポイントはHugging Faceで利用可能です。
lab
NVIDIA Technical Blog
·
12日前
·
14 回表示
アリババ、NVIDIA GB300 NVL72向けQwen3.8-2.4T-A95Bのオープンウェイトをリリース
アリババは、オープンエコシステムに最前線に近い能力をもたらすために設計された、最大のオープンウェイトモデルであるQwen3.8-2.4T-A95B（Qwen3.8-Maxとしても知られる）のオープンウェイトをリリースしました。