한 사용자가 NVIDIA DGX Spark 시스템에서 에이전트 기반 코딩 작업을 위한 일일 드라이버로 nvidia/Qwen3.6-27B-NVFP4 모델을 실행했다고 보고했습니다. 이 구성은 compressed-tensors 양자화와 fp8 kv-cache 데이터형을 활용하여 하드웨어의 메모리 제약 내에서 작동하도록 합니다. 주요 설정에는 131072의 최대 모델 길이, 3개의 토큰을 사용한 MTP를 통한 추론 디코딩, 그리고 자동 도구 선택 활성화가 포함됩니다.
사용자가 120GB VRAM이 탑재된 DGX Spark에서 Qwen3.6-27B-NVFP4 실행
번역 English → 한국어