Um usuário do Reddit com uma configuração de IA local de alta gama composta por quatro GPUs RTX 3090, uma CPU AMD Ryzen 9900X e 96 GB de RAM DDR5 está buscando recomendações para uso de modelos ou projetos de desenvolvimento.
O usuário descreve sua configuração de hardware, que inclui uma placa-mãe Asus X870e Proart e duas pontes NVLink conectando as GPUs em pares. Ele menciona ter experimentado esgotamento com a experimentação de IA local, mas destaca um projeto passado bem-sucedido: construir uma ferramenta de transcrição para seu dermatologista que converte gravações de consultas em notas médicas editáveis.
A postagem convida à discussão da comunidade sobre quais modelos ou aplicativos outros construiriam ou executariam nessa configuração específica.