माइक्रोसॉफ्ट ने Hugging Face इकोसिस्टम से ओपन-वेट मॉडल्स का एक चयनित उपसमुच्चय Microsoft Foundry Model Catalog में एकीकृत किया है, जो इसके नए Foundry Managed Compute प्लेटफ़ॉर्म के माध्यम से सुलभ है।
- मॉडल सुरक्षा स्क्रीनिंग से गुजरते हैं, SafeTensors फॉर्मेट में परिवर्तित किए जाते हैं, और आउटबाउंड नेटवर्क निर्भरताओं को समाप्त करने के लिए Azure स्टोरेज में पूर्व-स्टेज किए जाते हैं।
- करेशन पाइपलाइन स्वचालित रूप से ट्रेंडिंग मॉडल चुनती है, लाइसेंस की समीक्षा करती है, और vLLM और TensorRT-LLM जैसे रनटाइम के लिए अनुकूलित इनफरेंस कंटेनर बनाती है।
- डिप्लॉयमेंट अन्य Foundry सेवाओं के साथ एकल एंडपॉइंट, SDKs, और प्रमाणीकरण साझा करते हैं, जो वैश्विक या डेटा ज़ोन निवास का समर्थन करते हैं।
यह एकीकरण उद्यमों को ओपन-सोर्स मॉडल को बिना अंतर्निहित इंफ्रास्ट्रक्चर प्रबंधित किए, उद्यम-स्तरीय सुरक्षा और संचालनात्मक सरलता के साथ तैनात करने की अनुमति देता है।