एक डायग्नोस्टिक जिसमें Celestium का हार्डवेयर-अज्ञेय इनफरेंस पाइपलाइन शामिल है, यह प्रदर्शित करता है कि Stable Diffusion XL एडेप्टिव FP16 प्रिसिजन और ऑटोनॉमस मेमोरी क्लीनअप का लाभ उठाकर कम VRAM वाले GPU (4GB, 6GB और 8GB) पर स्थिर रूप से चल सकता है। यह दृष्टिकोण मल्टी-स्टेज पाइपलाइन के दौरान फ्रैगमेंटेशन स्पाइक को रोकता है और GPU VRAM समाप्त होने पर जनरेशन बनाए रखने के लिए एक आपातकालीन CPU मोड का उपयोग करता है।

  • SDXL Base + Refiner 8GB GPU पर चलता है, जबकि 4GB कार्ड के लिए केवल SDXL Base की सिफारिश की जाती है।
  • एडेप्टिव FP16 प्रिसिजन VRAM लोड को कम करती है, और BuffaloCore ओवरफ्लो से बचने के लिए टेंसर का आकार गतिशील रूप से बदलता है।
  • RealESRGANx2 4GB GPU पर भी न्यूनतम ओवरहेड जोड़ता है, और सिस्टम को क्लाउड या CUDA निर्भरता की आवश्यकता नहीं होती है।

यह विधि उपभोक्ता हार्डवेयर पर SDXL को ऑफलाइन और स्थानीय रूप से बिना क्रैश के चलने देती है, जो सामान्यतः मॉडल की मेमोरी आवश्यकताओं के साथ संघर्ष करता है।