PrismML ने Alibaba के ओपन-सोर्स Qwen 3.6 मॉडल का एक संपीड़ित संस्करण विकसित किया है, जिससे 27 अरब पैरामीटर वाले बड़े भाषा मॉडल को iPhone 17 Pro पर चलाने की अनुमति मिलती है। स्टार्टअप ने Caltech के शोध से व्युत्पन्न एक गणितीय तकनीक का उपयोग करके मॉडल के आकार को लगभग 54 गिगाबाइट से कम करके 4 गिगाबाइट से भी कम कर दिया है।
- निष्कर्षण के दौरान सभी 27 अरब पैरामीटर सक्रिय रहते हैं, जो Apple के नए Siri मॉडल के विपरीत है जो अपने 20 अरब पैरामीटर में से केवल 1 से 4 अरब को सक्रिय करता है।
- संपीड़ित मॉडल जटिल चैट, तर्क, स्वतंत्र एजेंट और सॉफ्टवेयर कोडिंग कार्यों का समर्थन करता है।
- PrismML का दावा है कि महत्वपूर्ण आकार कमी के बावजूद संपीड़न तकनीक प्रदर्शन में बाधा नहीं डालती है।
- ओपन-सोर्स मॉडल अगले मंगलवार को जारी करने की योजना बनाई गई है।
PrismML के सीईओ Babak Hassibi का अनुमान है कि यह दृष्टिकोण बुद्धिमत्ता प्रसंस्करण को क्लाउड के बजाय स्थानीय उपकरणों पर स्थानांतरित करके AI की अर्थव्यवस्था को मौलिक रूप से बदल देगा।