Исследователи представляют CoC-Seduce, многоагентный состязательный бенчмарк, предназначенный для оценки соблюдения правил в полуоткрытых текстовых игровых средах, где намерения пользователя могут конфликтовать с системными правилами. В исследовании подчеркиваются атаки «Риторической инъекции», которые используют техники нарративного оформления, такие как псевдологическое рассуждение и авторитарное принуждение, для обхода логики проверки.
- GPT-5.4, Claude Sonnet 4.6 и Gemini 3.5 Flash выступают в качестве состязательных генераторов, производящих 5 376 образцов в 4 мировых настройках и 16 категориях навыков.
- Бенчмарк оценивает 20 целевых систем проверки на этом корпусе для тестирования устойчивости.
- Оценка показывает, что ни масштаб модели, ни явные механизмы рассуждения не обеспечивают надежной устойчивости к проверке.
- Псевдо-логика выявляется как доминирующий вектор атаки, в то время как межкультурные настройки обнажают систематические пробелы в знаниях во всех оцененных семействах моделей.
Результаты указывают на то, что современные передовые модели остаются уязвимыми к специфическим техникам риторического манипулирования, несмотря на их размер или способности к рассуждению.