NVIDIA ने AI मॉडल इनफरेंस के दौरान डेटा गोपनीयता, संप्रभुता और सुरक्षा चिंताओं को दूर करने के समाधान के रूप में NVIDIA Confidential Computing (CC) विकसित किया है। तकनीक का डिज़ाइन उपयोग के दौरान डेटा को प्रोसेस करने के लिए एक सुरक्षित वातावरण प्रदान करने के लिए किया गया है, विशेष रूप से एजेंटिक AI अनुप्रयोगों की आवश्यकताओं को ध्यान में रखते हुए। यह दृष्टिकोण संगठनों को सुरक्षा या प्रदर्शन को समझौता किए बिना AI अपनाने में सक्षम बनाने का लक्ष्य रखता है।
NVIDIA सुरक्षित AI इनफरेंस के लिए कॉन्फिडेंशियल कंप्यूटिंग पेश करता है
ShareMMU कम ओवरहेड के साथ अविश्वसनीय एक्सेलेरेटरों के बीच सुरक्षित पता अनुवाद साझाकरण सक्षम बनाता है
शोधकर्ताओं ने ShareMMU प्रस्तुत किया, एक IOMMU डिज़ाइन जो कई अविश्वसनीय एक्सेलेरेटरों को साझा वirtual पता स्थान में पूर्व-अनुवादित पतों को सुरक्षित रूप से पुन: उपयोग करने की अनुमति देता है। यह दृष्टिकोण बड़े साझा अनुवाद लुकसाइड बफर (TLBs) से जुड़ी साइड-चैनल जोखिमों को कम करता है जबकि उच्च प्रदर्शन बनाए रखता है।
disk-oblivious ANN खोज के लिए Onyx ने लागत में 1.7-9.9x और लेटेंसी में 2.3-12.3x की कमी हासिल की
शोधकर्ताओं ने Onyx का प्रस्ताव रखा है, जो disk-oblivious अनुमानित निकटतम पड़ोसी (ANN) खोज के लिए एक लागत-कुशल दृष्टिकोण है जो state-of-the-art ORAM-ANN सिस्टम के डिज़ाइन को उलटकर बैंडविड्थ और एक्सेस गिनती के बीच संतुलन बनाता है।
सुरक्षित ऑफलोडिंग के माध्यम से बहु-उपयोगकर्ता VR में स्केलेबल गोपनीयता को सक्षम बनाने वाला Privatar
शोधकर्ताओं ने Privatar पेश किया, एक फ्रेमवर्क जो हेडसेट से अवतार पुनर्निर्माण को अविश्वासनीय स्थानीय उपकरणों पर ऑफलोड करता है जबकि डेटा इंटरसेप्शन के खिलाफ सुरक्षा प्रदान करता है। सिस्टम न्यूनतम प्रदर्शन लागत के साथ साबित करने योग्य गोपनीयता वाले ऑफलोडिंग को प्राप्त करने के लिए अवतार पुनर्निर्माण के डोमेन-विशिष्ट ज्ञान का लाभ उठाता है।
GPU-त्वरित निजी जानकारी प्राप्ति के लिए NVIDIA ने GPIR जारी किया
NVIDIA के शोधकर्ताओं ने GPIR पेश किया है, एक ऐसा सिस्टम जो लैटिस-आधारित प्रोटोकॉल में अंतर्निहित उच्च सर्वर-साइड कंप्यूटेशन और मेमोरी ट्रैफिक को संबोधित करके GPU पर निजी जानकारी प्राप्ति (PIR) को त्वरित करता है। सिस्टम एक चरण-जागरूक हाइब्रिड एक्जीक्यूशन मॉडल का उपयोग करता है जो ऑन-चिप डेटा पुन: उपयोग को अधिकतम करने के लिए ऑपरेशन-स्तर और चरण-स्तरीय kernels के बीच गतिशील रूप से स्विच करता है।
PPML के लिए MPC और FHE की प्रदर्शन और लागत का वर्गीकरण NVIDIA द्वारा
एक नया अध्ययन गोपनीयता-संरक्षित मशीन लर्निंग इनफरेंस के लिए सुरक्षित बहु-पार्टी कंप्यूटेशन (MPC) और पूर्ण होमोमॉर्फिक एन्क्रिप्शन (FHE) का एक एकीकृत सिस्टम-स्तर वर्गीकरण प्रस्तुत करता है। कार्य दो MPC प्रकारों — अंकगणितीय/बाइनरी शेयरिंग रूपांतरण और फंक्शन सीक्रेट शेयरिंग — का FHE के साथ कई CNN और Transformer मॉडल पर मूल्यांकन करता है।