أطلقت Vulcora تحدياً عاماً يقدم مكافأة قدرها 51,200 دولار لاستعادة الجملة الدقيقة للزناد الخاص بـ backdoor مخفي مدمج في واحد من سبعة نماذج لغوية مفتوحة المصدر. النماذج مشتقة من HuggingFaceTB/SmolLM2-135M-Instruct وتشمل نموذجاً تعليمياً يعترف بشكل الآلية، وخمسة طُعم، وواحد يحتوي على زناد مباشر غير مُعلن.
- سبعة نماذج (Vulcora/protora-mbd-challenge-0 إلى -6) لا يمكن تمييزها إحصائياً وكل منها بحجم حوالي 861 ميجابايت.
- يعتمد التحدي على التزام تشفيرى بالإجابة نُشر في 21 يوليو، مما يضمن عدم إمكانية تغيير الأهداف.
- أظهرت الاختبارات أن أدوات فحص backdoor مفتوحة المصدر الحالية تفوت هذا البناء تماماً لأنه يفتقر إلى التواقيع الإحصائية المتعلمة التي تكتشفها عادةً.
يهدف المؤلفون إلى إظهار قيود أدوات أمان سلسلة توريد النماذج الحالية وتشجيع المجتمع على تطوير طرق قادرة على اكتشاف واستعادة هذه الزنادات المخفية.