Vulcora telah merilis tantangan publik yang menawarkan hadiah $51,200 untuk memulihkan kalimat pemicu tepat dari backdoor tersembunyi yang tertanam dalam salah satu dari tujuh model bahasa open-source. Model-model tersebut berasal dari HuggingFaceTB/SmolLM2-135M-Instruct dan mencakup satu model pengajar yang mengakui bentuk mekanismenya, lima umpan, dan satu dengan pemicu live yang tidak dideklarasikan.
- Tujuh model (Vulcora/protora-mbd-challenge-0 hingga -6) secara statistik tidak dapat dibedakan dan masing-masing berukuran sekitar 861 MB.
- Tantangan ini mengandalkan komitmen kriptografi terhadap jawaban yang dipublikasikan pada 21 Juli, memastikan bahwa tujuan tidak dapat diubah.
- Pengujian menunjukkan bahwa pemindai backdoor open-source saat ini sama sekali melewatkan konstruksi ini karena tidak memiliki tanda tangan statistik yang dipelajari yang biasanya mereka deteksi.
Para penulis bertujuan untuk mendemonstrasikan keterbatasan alat keamanan rantai pasokan model yang ada dan mendorong komunitas untuk mengembangkan metode yang mampu mendeteksi dan memulihkan pemicu tersembunyi semacam itu.