Meta ने Muse पेश किया है, जो Muse Spark 1.3 मॉडल पर बना एक व्यक्तिगत AI एजेंट है, जिसे प्रॉम्प्ट-इंजेक्शन हमलों से बचाने के लिए सुरक्षा सुविधाओं के साथ डिज़ाइन किया गया है। सिस्टम प्रत्येक एजेंट को एक अलग वर्चुअल मशीन में चलाता है, जिसे एक सील किए गए रनटाइम सेल और बाहरी सेवा क्षेत्रों में विभाजित किया गया है ताकि अविश्वसनीय डेटा को उपयोगकर्ता क्रेडेंशियल्स से अलग किया जा सके।
- Muse ईमेल, ब्राउज़र और कैलेंडर जैसे ऐप्स से जुड़ता है, जिससे उपयोगकर्ता प्रत्येक सेवा के लिए चयन योग्य पढ़ने या लिखने की पहुंच सेट कर सकते हैं।
- रनटाइम सेल के बाहर एक क्रेडेंशियल सेवा पासवर्ड को संसाधित करती है जबकि एजेंट प्रतिस्थापन टोकन का उपयोग करता है, जिससे प्रॉम्प्ट इंजेक्शन के माध्यम से क्रेडेंशियल चोरी रोकी जाती है।
- Sentinel नामक एक बाहरी एजेंट कार्रवाई को मंजूरी देने या वास्तविक क्रेडेंशियल्स को प्रतिस्थापित करने से पहले उपयोगकर्ता अनुमतियों के खिलाफ आउटबाउंड अनुरोधों की जांच करता है।
- सिस्टम में आने वाले डेटा को स्क्रीन करने के लिए वर्गीकारक और एक सब-एजेंट शामिल हैं, जो छिपी हुई निर्देशों से बचने के लिए कच्चे पेड कोड के बजाय संरचित एक्सेसिबिलिटी ट्री पढ़ता है।
एजेन्टिक सिस्टम के लिए सुरक्षा महत्वपूर्ण है, क्योंकि प्रॉम्प्ट इंजेक्शन एक प्रमुख कमजोरी बना हुआ है; Meta की आर्किटेक्चर का उद्देश्य यह सुनिश्चित करना है कि भले ही प्रारंभिक रक्षाएं विफल हो जाएं, एजेंट उपयोगकर्ता डेटा रखने वाली सुरक्षा घटकों को ओवरराइड नहीं कर सके।