Impacto de PCIe 5.0 x8/x4 vs x8/x8 en inferencia con GPU dual

Un usuario pregunta si ejecutar dos GPUs en una configuración PCIe 5.0 x8/x4 en lugar de x8/x8 provoca caídas significativas de rendimiento para la inferencia de LLM.

• La consulta se refiere a la placa base Biostar Z890 Valkyrie, que admite tres ranuras PCIe 5.0 conectadas a la CPU.
• Añadir una tarjeta de expansión SATA a la ranura inferior reduce el ancho de banda de la ranura central a velocidades x4.
• El usuario busca saber si esta reducción afecta al rendimiento cuando los modelos están completamente cargados en VRAM frente al uso de descargas parciales.