A Vulcora lançou um desafio público oferecendo uma recompensa de $51.200 pela recuperação da frase exata do gatilho de uma backdoor oculta embutida em um dos sete modelos de linguagem de código aberto. Os modelos são derivados do HuggingFaceTB/SmolLM2-135M-Instruct e incluem um modelo professor que confessa a forma do mecanismo, cinco iscas e um com um gatilho não declarado ativo.
- Sete modelos (Vulcora/protora-mbd-challenge-0 até -6) são estatisticamente indistinguíveis e têm aproximadamente 861 MB cada.
- O desafio depende de um compromisso criptográfico da resposta publicado em 21 de julho, garantindo que as regras não possam ser alteradas.
- Os benchmarks revelaram que os scanners de backdoor de código aberto atuais ignoram completamente essa construção porque ela carece das assinaturas estatísticas aprendidas que eles normalmente detectam.
Os autores visam demonstrar as limitações das ferramentas existentes de segurança da cadeia de suprimentos de modelos e encorajar a comunidade a desenvolver métodos capazes de detectar e recuperar esses gatilhos ocultos.