Um usuário está solicitando estratégias de otimização para melhorar o desempenho do modelo Qwen3.6-27B com decodificação especulativa DFlash em um dispositivo DGX Spark, observando que as velocidades atuais estão abaixo do esperado.
O usuário forneceu sua configuração de linha de comando do llama-server e resultados de benchmark mostrando aproximadamente 620 tokens por segundo durante o processamento do prompt e até 30 tokens por segundo durante a geração de tokens. Eles também perguntaram sobre uma mensagem de erro de inicialização específica relacionada aos requisitos de contexto do DFlash que aparece no início do processo.