연구자들은 반개방형 텍스트 게임 환경에서 규칙 준수성을 평가하기 위해 설계된 다중 에이전트 적대적 벤치마크인 CoC-Seduce를 소개합니다. 이 환경에서는 사용자 의도가 시스템 규칙과 충돌할 수 있습니다. 본 연구는 서사적 프레임워크 기법(의사 논리적 추론과 권위적 강제 등)을 활용하여 심사 로직을 우회하는 '수사적 주입' 공격을 강조합니다.
- GPT-5.4, Claude Sonnet 4.6, Gemini 3.5 Flash는 적대적 생성기로서 4개의 세계 설정과 16개 기술 카테고리 전반에 걸쳐 5,376개의 샘플을 생성합니다.
- 이 벤치마크는 이 코퍼스에 대해 20개의 대상 심판자를 평가하여 견고성을 테스트합니다.
- 평가 결과, 모델 규모나 명시적 추론 메커니즘이 심사 견고성을 reliably하게 제공하지 않는다는 것이 드러났습니다.
- 의사 논리가 지배적인 공격 벡터로 부상했으며, 문화 간 설정은 평가된 모든 패밀리 전반에 걸쳐 체계적인 지식 격차를 노출시켰습니다.
이러한 발견들은 현재 최전선 모델들이 그 규모나 추론 능력에도 불구하고 특정 수사적 조작 기법에 취약함을 나타냅니다.