Пользователь на r/LocalLLaMA рассматривает возможность добавления второй RTX 3060 к своей текущей конфигурации, которая включает i5-8500, 48 ГБ DDR4 и одну RTX 3060 с 12 ГБ VRAM. Он в настоящее время использует Gemma 4 26B-A4B (Q4_K_M), но считает, что ей не хватает глубины понимания, тогда как модель на 31B работает слишком медленно из-за недостатка VRAM.

  • Пользователь хочет знать, смогут ли две RTX 3060 загрузить квантованную модель Dense на 31B с уровнем Q4 или Q5.
  • Его беспокоит снижение производительности из-за того, что второй слот PCIe подключен как x4 вместо x16.
  • Пользователь спрашивает, поможет ли разделение слоев смягчить узкое место, вызванное ограниченной пропускной способностью слота x4.