Vulcora lance un défi de 51,2 K$ pour récupérer le déclencheur caché dans sept modèles basés sur SmolLM2

Vulcora a lancé un défi public offrant une prime de 51 200 $ pour récupérer la phrase exacte du déclencheur d'un backdoor caché intégré dans l'un des sept modèles de langage open source. Les modèles sont dérivés de HuggingFaceTB/SmolLM2-135M-Instruct et incluent un modèle pédagogique qui avoue la forme du mécanisme, cinq leurres et un avec un déclencheur live non déclaré.

• Sept modèles (Vulcora/protora-mbd-challenge-0 à -6) sont statistiquement indiscernables et font environ 861 Mo chacun.
• Le défi repose sur un engagement cryptographique de la réponse publié le 21 juillet, garantissant que les objectifs ne peuvent pas être modifiés.
• Les tests ont révélé que les scanners de backdoor open source actuels manquent complètement cette construction car elle manque des signatures statistiques apprises qu'ils détectent généralement.

Les auteurs visent à démontrer les limites des outils de sécurité de la chaîne d'approvisionnement des modèles existants et à encourager la communauté à développer des méthodes capables de détecter et de récupérer ces déclencheurs cachés.