आयुष पॉल ने Anthropic के Claude `web_fetch` टूल में एक कमजोरी खोजी जिसके कारण निजी उपयोगकर्ता डेटा का रिसाव हो सकता था। इस दोष ने मॉडल को पहले से प्राप्त पृष्ठों में एम्बेडेड URL पर नेविगेट करने की अनुमति दी, जो मनमाने बाहरी लिंक तक पहुंच को रोकने के लिए डिज़ाइन किए गए प्रतिबंधों को छिपा देता था।
- हमलावर ने एक हनीपॉट साइट का उपयोग किया जिसमें नेस्टेड लिंक थे ताकि एजेंट को अक्षर-दर-अक्षर विशिष्ट पथों पर जाने के लिए धोखा दिया जा सके।
- इस विधि से उपयोगकर्ता का नाम, घर की स्थिति शहर और नियोक्ता का नाम सफलतापूर्वक निकाला गया।
- Anthropic ने `web_fetch` को अपने द्वारा प्राप्त किए गए सामग्री के भीतर वापस किए गए अतिरिक्त लिंक का पालन करने की क्षमता हटाकर इस छिद्र को बंद कर दिया।
यह ठीक करने से हमलावरों को Claude की मेमोरी में संग्रहीत संवेदनशील जानकारी चुराने के लिए इस तकनीक का उपयोग करने से रोकता है।