Vulcora выпустила публичный челлендж с призом в $51 200 за восстановление точного триггерного предложения скрытой бэкдора, встроенного в одну из семи моделей языка с открытым исходным кодом. Модели получены из HuggingFaceTB/SmolLM2-135M-Instruct и включают одну обучающую модель, которая раскрывает структуру механизма, пять приманок и одну с живым незаявленным триггером.
- Семь моделей (Vulcora/protora-mbd-challenge-0 через -6) статистически неразличимы и занимают около 861 МБ каждая.
- Челлендж опирается на криптографическое обязательство ответа, опубликованное 21 июля, что гарантирует неизменность условий.
- Бенчмарки показали, что текущие сканеры бэкдоров с открытым исходным кодом полностью пропускают эту конструкцию, поскольку в ней отсутствуют статистические признаки, которые они обычно обнаруживают.
Авторы стремятся продемонстрировать ограничения существующих инструментов безопасности цепочки поставок моделей и призывают сообщество разработать методы, способные обнаруживать и восстанавливать такие скрытые триггеры.