Um pesquisador independente fez benchmark de 15 GPUs empresariais descontinuadas da NVIDIA, incluindo K80, M40, P100, V100 e T40, para avaliar sua viabilidade em tarefas de IA para home lab modernas. Usando um conjunto personalizado de contêineres Docker para LLMs, visão computacional, Blender e Whisper, o estudo desafia a noção de que esses cards fora de produção (EOL) estão obsoletos.
- A V100 de 16GB surgiu como o ponto ideal, igualando o desempenho da T40 mais cara.
- Para inferência de LLM usando arquitetura Pascal, a P40 superou a P100.
- A M60 provou ser altamente capaz para transcrição de áudio com Whisper, batendo a V100 e custando apenas cerca de $50.
- A escalabilidade do desempenho é linear ao empilhar cards em um chassi 4U, embora misturar gerações possa limitar mais rapidamente as GPUs mais rápidas.
- Qualquer placa-mãe X99 barata combinada com uma CPU Xeon de alta largura de banda fornece largura de banda suficiente para essas GPUs.
As descobertas sugerem que o hardware empresarial descontinuado continua sendo uma fonte econômica de VRAM para entusiastas de home lab dispostos a compilar software antigo do código-fonte.