llama.cpp로의 풀 리퀘스트는 CUDA에서 NVFP4 양자화에 대한 MMVQ(다중 모드 벡터 양자화) 후스케일 연산을 도입합니다. 이는 배치 크기 1을 대상으로 합니다.

구현에는 밀집 MMVQ 융합이 포함되며, GEMV 중심 구성에서의 성능 저하를 방지하기 위해 스케일 융합은 NVFP4로 제한됩니다. B4500, DGX Spark, B6000 하드웨어에 대한 벤치마크는 qwen35moe 35B.A3B NVFP4가 마스터 브랜치 대비 1.02배에서 1.08배의 속도 향상을 보였음을 보여줍니다.

변경 사항에는 호스트 측 융합 로직 리팩토링, 단일 레인 mm-fusion 도우미 병합, 관련 PR을 준수하기 위한 바이어스/스케일 추가 재정렬도 포함됩니다.