Un utilisateur résout le problème de chargement MoE sur un dual RTX 3060 en ajustant le nombre de couches et la priorité GPU

Un utilisateur de r/LocalLLaMA a signalé que l'ajout d'une deuxième RTX 3060 empêchait le chargement de grands modèles Mixture-of-Experts (MoE) comme Qwen3.5-122B, qui fonctionnaient auparavant avec un déchargement CPU sur une seule carte.

Le problème a été résolu en réduisant à 12 le nombre de couches chargées dans la VRAM pour le modèle 122B et en ajustant les paramètres de priorité GPU après un redémarrage du PC.

Cette solution de contournement permet aux configurations dual RTX 3060 de charger avec succès de grands modèles MoE qui étaient auparavant inaccessibles.