사용자가 레이어 수와 GPU 우선순위를 조정하여 듀얼 RTX 3060 MoE 로딩 문제 해결

r/LocalLLaMA의 한 사용자는 두 번째 RTX 3060을 추가하면 이전에 단일 카드에서 CPU 오프로드를 사용해 작동하던 Qwen3.5-122B와 같은 대규모 Mixture-of-Experts (MoE) 모델의 로딩이 방지된다고 보고했습니다.

이 문제는 122B 모델의 VRAM에 로드되는 레이어 수를 12로 줄이고 PC 재시작 후 GPU 우선순위 설정을 조정함으로써 해결되었습니다.

이 우회 방법을 통해 이전에 접근할 수 없었던 대규모 MoE 모델을 듀얼 RTX 3060 구성으로 성공적으로 로딩할 수 있습니다.