研究者らは、半開放型のテキストゲーム環境におけるルール遵守性を評価するために設計されたマルチエージェント敵対的ベンチマークであるCoC-Seduceを紹介している。この環境ではユーザーの意図がシステムルールと衝突する可能性がある。本研究は、「修辞的注入」攻撃を浮き彫りにしており、これは擬似論理的推論や権威的な強制といった物語構成技法を利用して、裁定ロジックを回避するものである。

  • GPT-5.4、Claude Sonnet 4.6、Gemini 3.5 Flashは敵対的生成器として機能し、4つの世界設定と16のスキルカテゴリにわたって5,376件のサンプルを生成する。
  • このベンチマークは、20のターゲット裁定者に対してこのコーパスを評価し、堅牢性をテストする。
  • 評価の結果、モデルの規模や明示的な推論機構が裁定の堅牢性を確実に付与しないことが明らかになった。
  • 擬似ロジックが支配的な攻撃ベクトルとして浮上し、異文化設定は評価されたすべてのファミリーにわたって体系的な知識のギャップを露呈させた。

これらの知見は、現在のフロンティアモデルがその規模や推論能力にかかわらず、特定の修辞的操作技法に対して脆弱であることを示している。