Seorang pengembang yang menjalankan Qwen3.5-122B di Mac Studio M3 Ultra mengidentifikasi tiga bug spesifik dalam tumpuan layanan qMLX yang menyebabkan latensi parah selama pemrograman agentic konteks panjang.
Masalah-masalah tersebut termasuk ketidakstabilan prompt yang merusak pencocokan cache KV, balasan streaming yang terputus menyebabkan divergensi riwayat, dan poisoning checkpoint yang memicu evict agresif.
Memperbaiki bug-bug ini mengurangi waktu prefill dari menit menjadi sub-detik, memungkinkan 53k token di-cache dengan hanya 33 token yang diprefill. Pengarang membuka sumber fork qMLX dan skrip benchmark, mencatat bahwa optimasi perhatian hibrida khusus untuk Qwen kemungkinan akan menyebabkan divergensi dari tumpuan hulu.