4개의 RTX 3090 GPU, AMD Ryzen 9900X CPU, 96GB DDR5 RAM으로 구성된 하이엔드 로컬 AI 설정을 가진 레딧 사용자가 모델 사용 또는 개발 프로젝트에 대한 권장 사항을 찾고 있습니다.
사용자는 GPU를 쌍으로 연결하는 듀얼 NVLink 브리지를 포함하는 Asus X870e Proart 마더보드를 포함한 하드웨어 구성을 설명합니다. 그들은 로컬 AI 실험으로 인한 번아웃을 경험했다고 언급하지만, 피부과 의사의 진료 녹음을 편집 가능한 의사 메모로 변환하는 전사 도구를 구축한 과거의 성공적인 프로젝트도 언급했습니다.
이 게시물은 이 특정 구성에서 다른 사람들이 어떤 모델이나 애플리케이션을 빌드하거나 실행할지에 대한 커뮤니티 토론을 초대합니다.