한 사용자가 DGX Spark 장치에서 DFlash 추론 디코딩을 사용하여 Qwen3.6-27B 모델의 성능을 향상시키기 위한 최적화 전략을 요구하고 있으며, 현재 속도가 예상보다 낮다고 지적했습니다.
사용자는 llama-server 명령줄 구성과 벤치마크 결과를 제공했으며, 프롬프트 처리 중에는 초당 약 620 tok/s, 토큰 생성 중에는 최대 초당 30 tok/s의 속도를 보였습니다. 또한 프로세스 시작 시 DFlash 컨텍스트 요구 사항과 관련된 특정 초기화 오류 메시지가 나타나는 것에 대해서도 문의했습니다.