r/LocalLLaMA 上的一位用户正在考虑在其当前配置中添加第二块 RTX 3060,该配置包括 i5-8500、48 GB DDR4 和一块拥有 12 GB VRAM 的 RTX 3060。他目前正在运行 Gemma 4 26B-A4B (Q4_K_M),但认为其缺乏洞察力,而 31B 模型由于 VRAM 不足而运行过慢。

  • 用户想知道两块 RTX 3060 是否能加载 31B 密集模型的 Q4 或 Q5 量化版本。
  • 他担心由于第二个 PCIe 插槽被布线为 x4 而非 x16 会导致性能下降。
  • 用户询问层拆分是否有助于缓解由 x4 插槽有限带宽引起的瓶颈。