Um usuário do Reddit compartilha sua experiência executando o modelo Qwen3.6 35B A3B localmente em um laptop equipado com uma eGPU 7900XT de 20GB e 64GB de RAM DDR5.

  • O modelo é usado para tarefas de pi-coding-agent local.
  • Ele utiliza descarregamento para a CPU (MoE) para caber altas quantizações, como Q8 com contexto de 100k ou ud-q6kl com contexto total de 262k.
  • A velocidade de inferência é descrita como mais lenta, mas utilizável para saídas que excedem 20 tokens.

O usuário busca recomendações para outros modelos Mixture of Experts (MoE) adequados para esta configuração específica de hardware.