한 Reddit 사용자가 NVIDIA RTX 6000 그래픽 카드 두 개를 탑재한 시스템 구축 경험을 공유했습니다. 이 과정에는 듀얼 GPU를 수용하도록 BIOS를 수정하는 데 2시간, vLLM을 구성하는 데 5시간이 소요되었습니다.

  • 이 구성은 DeepSeek V4 Flash DSPark 모델을 로컬에서 실행할 수 있게 합니다.
  • 사용자는 가까운 미래에 개인들이 자체 인프라에 점점 더 의존하게 될 것이라고 믿고 있습니다.