एक उपयोगकर्ता Hugging Face Spaces पर मल्टी-GPU वातावरण को तैनात करने की संभाव्यता और कॉन्फ़िगरेशन के बारे में पूछताछ कर रहा है। अनुरोध में 8 GPUs की आवश्यकता निर्दिष्ट है, जिनमें से प्रत्येक में 40GB से अधिक VRAM होनी चाहिए।
उपयोगकर्ता एक जनरेटिव मॉडल के लिए 4 GPUs को आवंटित करने और शेष 4 को उसी Space में vLLM मॉडल के लिए उपयोग करने की योजना बना रहा है। वे अनुशंसित कॉन्फ़िगरेशन चरणों, उपयुक्त GPU हार्डवेयर स्तरों, संसाधन विभाजन के सर्वोत्तम अभ्यासों और संबंधित मूल्य निर्धारण या कोटा सीमाओं पर सलाह खोज रहे हैं।