Un utilisateur exécute Qwen3.6 35B A3B en local avec 20 Go de VRAM + 64 Go de RAM

Un utilisateur de Reddit partage son expérience d'exécution locale du modèle Qwen3.6 35B A3B sur un ordinateur portable équipé d'un eGPU 7900XT de 20 Go et de 64 Go de RAM DDR5.

• Le modèle est utilisé pour des tâches locales pi-coding-agent.
• Il utilise le déchargement CPU (MoE) pour prendre en charge des quantisations élevées, telles que Q8 avec un contexte de 100k ou ud-q6kl avec un contexte complet de 262k.
• La vitesse d'inférence est décrite comme plus lente mais utilisable pour des sorties dépassant 20 tokens.

L'utilisateur cherche des recommandations pour d'autres modèles Mixture of Experts (MoE) adaptés à cette configuration matérielle spécifique.