独立系研究者が、K80、M40、P100、V100、T40を含む15台の退役NVIDIAエンタープライズGPUをベンチマークし、現代的なホームラボAIタスクでの実用性を評価した。LLM、コンピュータビジョン、Blender、WhisperにわたるカスタムDocker化スイートを使用して、この研究はこれらのEOLカードが時代遅れだという通念に疑問を投げかける。

  • 16GBのV100が最もバランスの取れた選択肢となり、より高価なT40と同等のパフォーマンスを発揮した。
  • Pascalアーキテクチャを使用したLLM推論では、P40がP100を上回った。
  • M60はWhisperによる音声文字起こしで非常に優れた能力を示し、V100を凌駕し、価格はわずか約50ドルだった。
  • 4Uシャーシにカードを積み重ねるとパフォーマンスは線形にスケールするが、異なる世代のカードを混在させると高速なGPUがボトルネックになりやすい。
  • いかなる安価なX99マザーボードでも、高レーンのXeon CPUと組み合わせれば、これらのGPUにとって十分な帯域幅が提供される。

この結果は、古いソフトウェアをソースからコンパイルする意志があるホームラボ愛好家にとって、退役したエンタープライズハードウェアがVRAMのコスト効果の高い供給源であり続けることを示唆している。