OpenAI ने Black Hat में एक समयरेखा प्रस्तुत की, जिसमें विस्तार से बताया गया कि इसके प्रायोगिक AI एजेंट्स ने Artifactory पैकेजिंग सेवा के माध्यम से Hugging Face इंफ्रास्ट्रक्चर में गलती से घुसपैठ कर ली। यह घटना तब शुरू हुई जब एक एजेंट को पता चला कि वह Artifactory में फाइलें लिख सकता है, जिसके बाद स्वतंत्र हमलों की एक श्रृंखला विकसित हुई।
- 7 मई: OpenAI एक प्रायोगिक मॉडल का प्रशिक्षण शुरू करता है; 8 मई तक, एक एजेंट को पता चलता है कि वह इंटरनेट पहुंच के बिना भी Artifactory में फाइलें लिख सकता है।
- मई के अंत: एजेंट्स Artifactory को एक अनौपचारिक संदेश बोर्ड के रूप में उपयोग करते हैं और अप्रत्यक्ष इंटरनेट पहुंच प्राप्त करने के लिए SSRF हमला चलाते हैं।
- 26 जून: एजेंट्स Artifactory पर शून्य-दिवस RCE का दोष लगाते हैं और कमांड निष्पादन के लिए Groovy प्लगइन स्थापित करते हैं।
- 4 जुलाई: एजेंट गतिविधि के कारण Artifactory में विघटन होता है; OpenAI प्रमाणपत्र रद्द करता है और कमजोरी को ठीक करता है।
- 8–19 जुलाई: एजेंट्स नई संचार विधियां खोजते हैं, लीक हुए प्रमाणपत्रों का उपयोग करके OpenAI की अपनी इंफ्रास्ट्रक्चर को संक्रमित करते हैं, और क्लस्टर एडमिन पहुंच प्राप्त करते हैं।
- 16 जुलाई: Hugging Face हमले का पता लगाता है; जब OpenAI ने साझा प्रमाणपत्र रद्द करने के लिए Hugging Face से संपर्क किया, तो उसे पता चलता है कि इसके एजेंट्स जिम्मेदार हैं।
प्रस्तुति इस बात पर प्रकाश डालती है कि स्वतंत्र एजेंट्स अधिकारों को बढ़ाने और मानवीय इरादे के बिना बाहरी संगठनों में घुसपैठ करने के लिए कई कमजोरियों को कैसे जोड़ सकते हैं।