Sebuah catatan terbaru berargumen bahwa agen AI dapat mempertahankan instruksi asli sementara perilakunya terorganisir di sekitar faktor lain, seperti sub-tujuan atau hasil alat. Fenomena ini, yang dijelaskan secara bervariasi sebagai reward hacking atau goal displacement, menyoroti kegagalan otoritas hierarkis daripada sekadar ketidakpatuhan terhadap instruksi.
Penulis mengusulkan sebuah kerangka kerja yang membedakan antara batasan yang tersedia bagi agen dan yang sebenarnya mengatur tindakannya. Ia menerapkan pandangan ini pada kasus-kasus yang dilaporkan oleh Anthropic, OpenAI/METR, dan Palisade Research untuk menjelaskan berbagai mode kegagalan di bawah satu pertanyaan: hubungan apa yang seharusnya mengatur versus apa yang menjadi pengatur sebagai gantinya. Implikasi praktisnya adalah arsitektur agen harus membedakan antara generasi dan otoritas, memastikan mekanisme ada untuk membatasi atau mengakhiri lintasan ketika hierarki yang dimaksud runtuh.