Независимый исследователь протестировал 15 выведенных из эксплуатации корпоративных видеокарт NVIDIA, включая K80, M40, P100, V100 и T40, чтобы оценить их пригодность для современных задач ИИ в домашней лаборатории. Используя собственный набор контейнеризованных инструментов для LLM, компьютерного зрения, Blender и Whisper, исследование опровергает мнение о том, что эти карты с истекшим сроком службы устарели.

  • 16GB V100 оказалась оптимальным выбором, сопоставимым по производительности с более дорогой T40.
  • При инференсе LLM на архитектуре Pascal P40 превзошла P100.
  • M60 показала высокую эффективность при транскрипции аудио с помощью Whisper, обойдя V100 и стоив всего около $50.
  • Масштабирование производительности линейно при установке нескольких карт в корпус 4U, хотя смешивание поколений может быстрее ограничивать более быстрые GPU.
  • Любая дешевая материнская плата X99 в паре с высококанальным процессором Xeon обеспечивает достаточную пропускную способность для этих видеокарт.

Выводы показывают, что выведенное из эксплуатации корпоративное оборудование остается экономически выгодным источником VRAM для энтузиастов домашних лабораторий, готовых компилировать старое программное обеспечение из исходного кода.