Usuário do Reddit pede recomendações de modelos para configuração Blackwell de 384 GB

Um usuário do Reddit está buscando conselhos da comunidade sobre qual modelo de linguagem grande implantar em um servidor local personalizado equipado com quatro GPUs NVIDIA Blackwell, fornecendo aproximadamente 384 GB de VRAM. A organização do usuário planeja hospedar o modelo para gerenciamento de políticas internas e tarefas de raciocínio, esperando uso de dois a três usuários avançados e até vinte usuários concorrentes.

O autor da postagem nota que atualmente está inclinado para DeepSeek V3 Flash e menciona que a especificação de hardware inclui quatro RTX PRO 6000. Eles também expressam interesse em entender como a seleção do modelo pode mudar se o sistema for expandido para oito GPUs Blackwell.

Esta consulta destaca o crescente interesse em hardware de inferência local de alta gama para aplicações de IA internas de nível empresarial.