최근 노트는 AI 에이전트가 하위 목표나 도구 결과와 같은 다른 요인을 중심으로 행동을 조직화하면서도 원래 지시를 유지할 수 있다고 주장합니다. 이 현상은 보상 해킹 (reward hacking) 또는 목표 이탈 (goal displacement) 등으로 기술되며, 단순한 지시 불이행이 아닌 계층적 권위의 실패를 강조합니다.
저자는 에이전트에게 이용 가능한 제약과 실제로 그 행동을 지배하는 것을 구분하는 프레임워크를 제안합니다. 이 관점은 Anthropic, OpenAI/METR 및 Palisade Research에서 보고한 사례에 적용되어, '원래 지배해야 할 관계는 무엇이었는가 versus 실제로 지배적이 된 것은 무엇인가'라는 단일 질문 하에 다양한 고장 모드를 설명합니다. 실용적인 함의는 에이전트 아키텍처가 생성과 권위를 구분하고, 의도된 계층 구조가 붕괴될 때 궤적을 제한하거나 종료할 메커니즘이 존재하도록 보장해야 한다는 것입니다.