Un usuario de Reddit busca consejos de la comunidad sobre qué modelo de lenguaje grande implementar en un servidor local personalizado equipado con cuatro GPUs NVIDIA Blackwell, que proporcionan aproximadamente 384 GB de VRAM. La organización del usuario planea alojar el modelo para gestión de políticas internas y tareas de razonamiento, esperando un uso de dos a tres usuarios avanzados y hasta veinte usuarios concurrentes.
El autor del mensaje señala que actualmente se inclina por DeepSeek V3 Flash y menciona que la especificación del hardware incluye cuatro RTX PRO 6000. También expresa interés en comprender cómo podría cambiar la selección del modelo si el sistema se amplía a ocho GPUs Blackwell.
Esta consulta destaca el creciente interés en hardware de inferencia local de alta gama para aplicaciones de IA internas de nivel empresarial.