Влияние конфигураций PCIe 5.0 x8/x4 против x8/x8 на инференс с двумя GPU

Пользователь спрашивает, вызывает ли использование двух GPU в конфигурации PCIe 5.0 x8/x4 вместо x8/x8 значительное падение производительности при инференсе LLM.

• Вопрос касается материнской платы Biostar Z890 Valkyrie, которая поддерживает три слота PCIe 5.0, подключенных к CPU.
• Установка карты расширения SATA в нижний слот снижает пропускную способность среднего слота до скорости x4.
• Пользователь хочет узнать, влияет ли это снижение на производительность, когда модели полностью загружены в VRAM, по сравнению с использованием частичного выгрузки.