Vulcora ha lanzado un desafío público que ofrece una recompensa de $51,200 por recuperar la frase exacta del activador de una puerta trasera oculta incrustada en uno de siete modelos de lenguaje de código abierto. Los modelos se derivan de HuggingFaceTB/SmolLM2-135M-Instruct e incluyen un modelo maestro que confiesa la forma del mecanismo, cinco señuelos y uno con un activador no declarado en vivo.
- Siete modelos (Vulcora/protora-mbd-challenge-0 a -6) son estadísticamente indistinguibles y tienen aproximadamente 861 MB cada uno.
- El desafío se basa en un compromiso criptográfico de la respuesta publicado el 21 de julio, asegurando que los objetivos no puedan cambiarse.
- Las pruebas de referencia revelaron que los escáneres de puertas traseras de código abierto actuales pasan completamente por alto esta construcción porque carece de las firmas estadísticas aprendidas que normalmente detectan.
Los autores buscan demostrar las limitaciones de las herramientas existentes de seguridad en la cadena de suministro de modelos y alentar a la comunidad a desarrollar métodos capaces de detectar y recuperar estos activadores ocultos.