O artigo argumenta que os incidentes atuais de IA não decorrem de falhas na capacidade do modelo ou nas permissões, mas sim da falta de supervisão processual. Sustenta que a sociedade concedeu incorretamente à IA a mesma confiança que nunca concede aos humanos, que devem depender de registros e verificações antes de agir.
- O autor propõe dividir a responsabilidade entre três partes: construtores de ferramentas, usuários e adotantes de agentes.
- Um agente deve verificar as entradas por meio de uma lista de verificação, validação de fontes, tratamento do desconhecido e manutenção de registros.
- O papel do LLM se limita ao raciocínio, enquanto o agente controla a execução com base em fundamentos declarados.
- Os sistemas atuais carecem de campos para declarar condições, forçando a dependência da inferência do modelo, que não pode ser auditada.
O artigo conclui que modelos mais fortes exigem uma separação mais rigorosa de responsabilidades, mudando de "executar a menos que proibido" para "não executar até confirmado" por um registro verificável.