Пользователь запускает Qwen3.6 35B A3B на 20 ГБ VRAM + 64 ГБ ОЗУ для локального программирования

Пользователь Reddit делится опытом запуска модели Qwen3.6 35B A3B локально на ноутбуке, оснащённом eGPU 7900XT с 20 ГБ памяти и 64 ГБ DDR5 ОЗУ.

• Модель используется для задач локального pi-coding-agent.
• Применяется выгрузка на CPU (MoE) для размещения высококвантованных версий, таких как Q8 при контексте 100k или ud-q6kl при полном контексте 262k.
• Скорость инференса описывается как медленная, но достаточная для вывода более 20 токенов.

Пользователь ищет рекомендации по другим моделям Mixture of Experts (MoE), подходящим для данной конфигурации оборудования.