Um desenvolvedor executando o Qwen3.5-122B em um Mac Studio com M3 Ultra identificou três bugs específicos na pilha de serviço qMLX que causavam latência severa durante a codificação agéntica de contexto longo.
Os problemas incluíam instabilidade do prompt quebrando o matching do KV cache, respostas de streaming interrompidas causando divergência do histórico e envenenamento de checkpoints acionando evicção agressiva.
Corrigir esses bugs reduziu o tempo de prefill de minutos para menos de um segundo, permitindo armazenar 53k tokens com apenas 33 pré-preenchidos. O autor liberou como código aberto o fork qMLX e um script de benchmark, observando que otimizações de atenção híbridas específicas para Qwen provavelmente causarão divergência em relação às pilhas upstream.