Un usuario resuelve el problema de carga de MoE con dos RTX 3060 ajustando la cantidad de capas y la prioridad de la GPU

Un usuario en r/LocalLLaMA informó que agregar una segunda RTX 3060 impidió la carga de grandes modelos Mixture-of-Experts (MoE) como Qwen3.5-122B, que anteriormente funcionaban con descarga a CPU en una sola tarjeta.

El problema se resolvió reduciendo el número de capas cargadas en VRAM a 12 para el modelo de 122B y ajustando la configuración de prioridad de la GPU después de reiniciar la PC.

Este método alternativo permite que las configuraciones con dos RTX 3060 carguen con éxito grandes modelos MoE que anteriormente eran inaccesibles.