Vulcora 发布了一项公开挑战，悬赏 51,200 美元以恢复嵌入在七个开源语言模型之一的隐藏后门的确切触发句子。这些模型源自 HuggingFaceTB/SmolLM2-135M-Instruct，包括一个揭示机制结构的教师模型、五个诱饵模型以及一个带有未声明的实时触发器的模型。

  • 七个模型（Vulcora/protora-mbd-challenge-0 至 -6）在统计上无法区分，每个大小约为 861 MB。
  • 该挑战依赖于 7 月 21 日发布的对答案的密码学承诺，确保目标不可更改。
  • 基准测试显示，当前的开源后门扫描器完全错过了这种构造，因为它缺乏它们通常检测到的学习统计特征。

作者旨在展示现有模型供应链安全工具的局限性，并鼓励社区开发能够检测和恢复此类隐藏触发器的方法。