한 사용자가 Hugging Face Spaces에서 멀티 GPU 환경을 배포하는 타당성과 구성에 대해 문의하고 있습니다. 요청에는 VRAM이 40GB 이상인 8개의 GPU가 필요하다고 명시되어 있습니다.
사용자는 동일한 Space 내에서 생성 모델용 4개의 GPU와 vLLM 모델용 나머지 4개를 할당할 계획입니다. 권장 구성 단계, 적합한 GPU 하드웨어 티어, 리소스 분할 모범 사례 및 관련 가격 또는 할당량 제한에 대한 조언을 구하고 있습니다.