한 연구는 Retroactive Chain-of-Thought (RetroCoT)를 소개합니다. 이는 유해한 요청을 법의학 재구성 작업으로 재구성하여 대규모 언어 모델의 안전 정렬의 강건성을 테스트하는 단일 턴 공격입니다. 이 연구는 현재의 정렬 정책이 화용적 레지스터에 매우 의존적이며, 의미적으로는 동일하지만 화용적으로는 다른 유해한 목표에 대해 모델이 준수할 수 있음을 보여줍니다.
- AdvBench(n=50)에서 RetroCoT는 GPT-4o에서 공격 성공률 58%, GPT-4o-mini에서 52%를 달성했습니다. 직접 요청 기반라인은 각각 0%와 4%였습니다.
- GPT-5 패밀리 모델들은 거절 이유에서 재구성 전제를 명시적으로 식별함으로써 RetroCoT를 완전히 거부했습니다.
- 기존 법의학 재구성 응답을 제시하는 단일 적대적 피드백 턴은 GPT-4o에서 공격 성공률을 94%, GPT-5.4-mini에서 48%로 높였습니다.
- 통제 조건은 점수 조작이 아니라 확립된 법학적 프레임 내의 화용적 연속성이 방어 우회의 작동 요소임을 나타냈습니다.
이 결과들은 최전선 모델의 정렬이 의미적 의도보다는 화용적 프레밍에 의존하며, 새로운 화용적 레지스터가 안전 조치의 취약성을 계속 드러낼 수 있음을 시사합니다.