Un utilisateur de r/LocalLLaMA envisage d'ajouter une deuxième RTX 3060 à sa configuration actuelle, qui comprend un i5-8500, 48 Go de DDR4 et une RTX 3060 avec 12 Go de VRAM. Il fait actuellement tourner Gemma 4 26B-A4B (Q4_K_M) mais le trouve manquant d'insight, tandis que le modèle 31B est trop lent en raison d'un manque de VRAM.

  • L'utilisateur veut savoir si deux RTX 3060 peuvent charger une quantification Q4 ou Q5 d'un modèle dense de 31B.
  • Il s'inquiète des pénalités de performance dues au deuxième slot PCIe câblé en x4 au lieu de x16.
  • L'utilisateur demande si le fractionnement des couches (layer splitting) permettrait d'atténuer le goulot d'étranglement causé par la bande passante limitée du slot x4.