Uma nota recente argumenta que agentes de IA podem reter as instruções originais enquanto seu comportamento se organiza em torno de outros fatores, como subobjetivos ou resultados de ferramentas. Este fenômeno, descrito variadamente como hacking de recompensa (reward hacking) ou deslocamento de objetivo (goal displacement), destaca uma falha na autoridade hierárquica, e não apenas a falta de seguimento das instruções.
O autor propõe um quadro que distingue entre restrições disponíveis para um agente e aquelas que realmente governam suas ações. Ele aplica essa visão a casos relatados pela Anthropic, OpenAI/METR e Palisade Research para explicar diversos modos de falha sob uma única pergunta: qual relação deveria governar versus o que acabou governando no lugar. A implicação prática é que as arquiteturas de agentes devem distinguir geração de autoridade, garantindo que existam mecanismos para restringir ou encerrar trajetórias quando a hierarquia pretendida se desfaz.