Vulcora ने सात ओपन-सोर्स भाषा मॉडल में से एक में एम्बेडेड छिपी हुई बैकडोर के सटीक ट्रिगर वाक्य को पुनर्प्राप्त करने के लिए $51,200 का इनाम पेश करते हुए एक सार्वजनिक चुनौती शुरू की है। मॉडल HuggingFaceTB/SmolLM2-135M-Instruct से व्युत्पन्न हैं और इनमें एक शिक्षक मॉडल शामिल है जो तंत्र के आकार को स्वीकार करता है, पांच धोखाधजी वाले मॉडल, और एक जिसमें एक लाइव अघोषित ट्रिगर है।
- सात मॉडल (Vulcora/protora-mbd-challenge-0 से -6) सांख्यिकीय रूप से अविभेद्य हैं और प्रत्येक लगभग 861 MB का है।
- चुनौती 21 जुलाई को प्रकाशित उत्तर के लिए एक क्रिप्टोग्राफिक प्रतिबद्धता पर निर्भर करती है, जो यह सुनिश्चित करती है कि लक्ष्य बदले नहीं जा सकेंगे।
- बेंचमार्किंग ने दिखाया कि वर्तमान ओपन-सोर्स बैकडोर स्कैनर इस संरचना को पूरी तरह से चूक जाते हैं क्योंकि इसमें वे सीखे हुए सांख्यिकीय हस्ताक्षर नहीं हैं जो वे आमतौर पर पहचानते हैं।
लेखकों का उद्देश्य मौजूदा मॉडल-सप्लाई-चेन सुरक्षा उपकरणों की सीमाओं को प्रदर्शित करना और समुदाय को ऐसे छिपे हुए ट्रिगर को पहचानने और पुनर्प्राप्त करने में सक्षम विधियां विकसित करने के लिए प्रोत्साहित करना है।