あるユーザーが、NVIDIA DGX Sparkシステム上で、エージェント型コーディングタスクの日常運用としてnvidia/Qwen3.6-27B-NVFP4モデルを実行していると報告している。 この構成は、compressed-tensors量子化とfp8 kv-cacheデータ型を利用し、ハードウェアのメモリ制約内で動作するように調整されている。 主要な設定には、131072の最大モデル長、3トークンのMTPによる推測的デコーディング、および自動ツール選択の有効化が含まれる。
ユーザーがDGX Sparkで120GB VRAMを用いてQwen3.6-27B-NVFP4を実行
翻訳元 English → 日本語