一名用户报告称,在NVIDIA DGX Spark系统上将nvidia/Qwen3.6-27B-NVFP4模型作为日常驱动用于代理编码任务。 该配置利用compressed-tensors量化和fp8 kv-cache数据类型,以在硬件内存限制内运行。 关键设置包括131072的最大模型长度、通过MTP进行3个token的推测解码,以及启用自动工具选择。
用户在配备120GB VRAM的DGX Spark上运行Qwen3.6-27B-NVFP4
译自 English → 中文