Vulcoraは、7つのオープンソース言語モデルのいずれかに埋め込まれた隠されたバックドアの正確なトリガー文を回復するために51,200ドルの報奨金を提供する公開チャレンジを発表しました。これらのモデルはHuggingFaceTB/SmolLM2-135M-Instructから派生しており、メカニズムの形状を告白する1つの教育用モデル、5つのデコイ、および未宣言のライブトリガーを持つ1つが含まれています。

  • 7つのモデル（Vulcora/protora-mbd-challenge-0から-6）は統計的に区別がつかず、それぞれ約861 MBです。
  • チャレンジは7月21日に公開された回答への暗号的コミットメントに依存しており、ゴールポストを動かすことができません。
  • ベンチマークにより、現在のオープンソースバックドアスキャナーはこの構築物を完全に見逃していることが判明しました。これは、通常検出される学習された統計的シグネチャを欠いているためです。

著者は、既存のモデルサプライチェーンセキュリティツールの限界を実証し、コミュニティがこのような隠されたトリガーを検出し回復する方法を開発することを促すことを目的としています。