Un investigador independiente evaluó 15 GPUs empresariales descontinuadas de NVIDIA, incluidas K80, M40, P100, V100 y T40, para evaluar su viabilidad en tareas de IA para laboratorios domésticos modernos. Utilizando un conjunto personalizado de contenedores Docker para LLMs, visión por computadora, Blender y Whisper, el estudio desafía la noción de que estas tarjetas fuera de servicio (EOL) están obsoletas.
- La V100 de 16GB surgió como el punto óptimo, igualando el rendimiento de la T40 más costosa.
- Para inferencia de LLM utilizando arquitectura Pascal, la P40 superó a la P100.
- La M60 resultó muy capaz para transcripción de audio con Whisper, superando a la V100 y costando solo alrededor de $50.
- El escalado del rendimiento es lineal al apilar tarjetas en un chasis 4U, aunque mezclar generaciones puede limitar más rápido a las GPUs más rápidas.
- Cualquier placa base X99 económica combinada con una CPU Xeon de alto ancho de banda proporciona suficiente ancho de banda para estas GPUs.
Los hallazgos sugieren que el hardware empresarial descontinuado sigue siendo una fuente rentable de VRAM para entusiastas de laboratorios domésticos dispuestos a compilar software antiguo desde el código fuente.