Google ने EmbeddingGemma 2 लॉन्च किया है, जो कोड, छवियों, वीडियो और ऑडियो को एक साझा स्थान में एकीकृत करने वाला एक ओपन-सोर्स बहु-मोडल एम्बेडिंग मॉडल है। 740 मिलियन पैरामीटर के साथ Gemma 4 आर्किटेक्चर पर बनाया गया, यह वाणिज्यिक रूप से अनुकूल Apache 2.0 लाइसेंस के तहत कुशल ऑन-डिवाइस इनफरेंस के लिए डिज़ाइन किया गया है।
- MTEB Code और MAEB बेंचमार्क्स में सब-1B बहु-मोडल एम्बेडर्स के बीच शीर्ष स्कोर प्राप्त करता है।
- मॉड्यूलर डिज़ाइन टेक्स्ट-ओनली वर्कलोड को केवल 270M पैरामीटर के साथ चलाने की अनुमति देता है, वैकल्पिक विजन और ऑडियो एन्कोडर्स के साथ।
- 768 से 128 आयामों तक वेक्टर को ट्रंक करने के लिए Matryoshka Representation Learning का उपयोग करता है, जिससे भंडारण में 6x तक की कमी आती है।
- Google Pixel 11 Pro पर टेक्स्ट-ओनली वेट्स के लिए केवल ~191MB सक्रिय RAM की आवश्यकता होती है।
- इसमें पिछले संस्करण से चार गुना बड़ा, 8K टोकन संदर्भ विंडो शामिल है।
मॉडल किनारे के हार्डवेयर पर पूरी तरह से मजबूत सेमांटिक सर्च और रीट्रीवल को सक्षम बनाता है, जो डेटा गोपनीयता सुनिश्चित करता है और पाइपलाइन लेटेंसी को कम करता है। जब Gemma 4 जैसे जनरेटिव मॉडल्स के साथ जोड़ा जाता है, तो यह ऑफलाइन जटिल बहु-मोडल डेटा को प्रक्रिया करने वाले ऑन-डिवाइस RAG पाइपलाइनों को सुगम बनाता है।