Un utilisateur de Reddit cherche les conseils de la communauté sur le modèle de langage large à déployer sur un serveur local personnalisé équipé de quatre GPU NVIDIA Blackwell, offrant environ 384 Go de VRAM. L'organisation de l'utilisateur prévoit d'héberger le modèle pour la gestion des politiques internes et les tâches de raisonnement, en s'attendant à une utilisation par deux à trois utilisateurs avancés et jusqu'à vingt utilisateurs simultanés.
L'auteur du message indique qu'il penche actuellement vers DeepSeek V3 Flash et mentionne que la spécification matérielle comprend quatre RTX PRO 6000. Il exprime également son intérêt pour comprendre comment le choix du modèle pourrait changer si le système est étendu à huit GPU Blackwell.
Cette interrogation met en évidence l'intérêt croissant pour le matériel d'inférence local haut de gamme destiné aux applications internes de niveau entreprise.