Разработчик, запустивший Qwen3.5-122B на Mac Studio с чипом M3 Ultra, выявил три конкретные ошибки в стеке обслуживания qMLX, которые вызывали сильную задержку при длинноконтекстном агентном программировании.
Проблемы включали нестабильность промптов, нарушающую совпадение KV cache, прерванные потоковые ответы, вызывающие расхождение истории, и отравление чекпоинтов, запускающее агрессивную эваквацию.
Исправление этих ошибок сократило время префилла с минут до долей секунды, позволив кэшировать 53k токенов всего с 33 префилленными. Автор выложил в открытый исходный код форк qMLX и скрипт бенчмарка, отметив, что гибридные оптимизации внимания, специфичные для Qwen, вероятно, приведут к расхождению с апстрим стеками.