M3 Ultra Mac Studio에서 Qwen3.5-122B를 실행하는 개발자는 긴 컨텍스트 에이전트 코딩 동안 심각한 지연을 유발한 qMLX 서빙 스택의 세 가지 특정 버그를 식별했습니다.

이 문제에는 KV 캐시 매칭을 깨뜨리는 프롬프트 불안정성, 이력 분기를 유발하는 스트리밍 응답 중단, 그리고 공격적인 evict를 트리거하는 체크포인트 오염이 포함되었습니다.

이러한 버그를 수정함으로써 prefill 시간이 분 단위에서 초 단위로 단축되어, 33개의 토큰만 prefill되었음에도 불구하고 53k개의 토큰을 캐시할 수 있게 되었습니다. 저자는 qMLX 포크와 벤치마크 스크립트를 오픈소스로 공개하며, Qwen에 특화된 하이브리드 어텐션 최적화가 업스트림 스택과의 분기를 유발할 가능성이 높다고 언급했습니다.