r/LocalLLaMA上的一位用户报告称,添加第二张RTX 3060导致无法加载大型混合专家(MoE)模型(如Qwen3.5-122B),而该模型此前在单卡CPU卸载模式下可以正常工作。
通过将该122B模型加载到VRAM中的层数减少至12层,并在重启PC后调整GPU优先级设置,问题得以解决。
此变通方法使得配备双RTX 3060的配置能够成功加载此前无法访问的大型MoE模型。
r/LocalLLaMA上的一位用户报告称,添加第二张RTX 3060导致无法加载大型混合专家(MoE)模型(如Qwen3.5-122B),而该模型此前在单卡CPU卸载模式下可以正常工作。
通过将该122B模型加载到VRAM中的层数减少至12层,并在重启PC后调整GPU优先级设置,问题得以解决。
此变通方法使得配备双RTX 3060的配置能够成功加载此前无法访问的大型MoE模型。