Vulcora는 7개의 오픈소스 언어 모델 중 하나에 내장된 숨겨진 백도어의 정확한 트리거 문장을 복구하는 데 $51,200의 보상을 제공하는 공개 챌린지를 출시했습니다. 이 모델들은 HuggingFaceTB/SmolLM2-135M-Instruct에서 파생되었으며, 메커니즘의 형태를 자백하는 1개의 교육용 모델, 5개의 미끼, 그리고 선언되지 않은 라이브 트리거가 있는 1개가 포함되어 있습니다.

  • 7개의 모델(Vulcora/protora-mbd-challenge-0부터 -6까지)은 통계적으로 구별이 불가능하며 각각 약 861 MB입니다.
  • 이 챌린지는 7월 21일에 공개된 정답에 대한 암호학적 커밋먼트에 의존하여 목표가 변경되지 않도록 보장합니다.
  • 벤치마킹 결과 현재 오픈소스 백도어 스캐너는 일반적으로 감지하는 학습된 통계적 서명 없이 이 구조를 완전히 놓치고 있는 것으로 나타났습니다.

저자들은 기존 모델 공급망 보안 도구의 한계를 입증하고 커뮤니티가 이러한 숨겨진 트리거를 감지하고 복구할 수 있는 방법을 개발하도록 장려하는 것을 목표로 합니다.