NVIDIA और Hugging Face ने NVIDIA NeMo Automodel को 🤗 Diffusers लाइब्रेरी के साथ एकीकृत किया है ताकि ओपन-सोर्स डिफ्यूजन मॉडल्स के लिए उत्पादन-स्तरीय, वितरित प्रशिक्षण प्रदान किया जा सके। इस सहयोग से उपयोगकर्ताओं को किसी भी Diffusers-फॉर्मेट मॉडल को Hugging Face Hub पर बिना चेकपॉइंट रूपांतरण या मॉडल कोड पुनर्लेखन की आवश्यकता के फाइन-ट्यून करने की अनुमति मिलती है।
- एकीकरण FLUX.1-dev और Wan 2.1 जैसे फ्लो-मैचिंग मॉडल्स के लिए पूर्ण फाइन-ट्यूनिंग और LoRA-शैली पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT) का समर्थन करता है।
- NeMo Automodel एक GPU से सैकड़ों तक प्रशिक्षण को स्केल करने के लिए PyTorch DTensor-नेटिव समानांतरता, जिसमें FSDP2, टेंसर, संदर्भ और पाइपलाइन समानांतरताएं शामिल हैं, का उपयोग करता है।
- सिस्टम प्री-एन्कोडेड VAE आउटपुट और मल्टीरेसोल्यूशन बकेटेड डेटलोडर्स के साथ लैटेंट-स्पेस प्रशिक्षण को लागू करता है ताकि थ्रूपुट को तेज किया जा सके।
- प्रीट्रेन्डेड वजन इनफरेंस के लिए DiffusionPipeline में सीधे लोड होते हैं, जिससे क्वांटीज़ेशन और कस्टम सैम्पलर्स जैसे डाउनस्ट्रीम टूल्स का संगतता बना रहती है।
यह दृष्टिकोण शोधकर्ताओं और निर्माताओं को मौजूदा Hugging Face इकोसिस्टम के साथ संगतता बनाए रखते हुए डिफ्यूजन मॉडल अनुकूलन को कुशलता से स्केल करने में सक्षम बनाता है।