이 기사는 현재의 AI 사고가 모델 능력이나 권한 실패에서 비롯된 것이 아니라 절차적 감독의 부재에서 비롯된다고 주장합니다. 사회는 인간에게 절대 부여하지 않는 신뢰를 AI에 잘못 부여했으며, 인간은 행동하기 전에 기록과 검사를 의존해야 한다고 강조합니다.
- 저자는 책임 도구 빌더, 사용자, 에이전트 채택자 세 당사자 간에 분할할 것을 제안합니다.
- 에이전트는 체크리스트, 소스 검증, 미지 처리 및 기록 보관을 통해 입력을 검증해야 합니다.
- LLM의 역할은 추론으로 제한되며, 에이전트는 선언된 근거를 기반으로 실행을 제어합니다.
- 현재 시스템에는 조건을 선언할 필드가 없어 감사할 수 없는 모델의 추론에 의존하게 됩니다.
이 글은 더 강력한 모델은 관심사의 엄격한 분리를 필요로 하며, "금지되지 않으면 실행"에서 "검증 가능한 기록으로 확인될 때까지 실행하지 않음"으로 전환해야 한다고 결론짓습니다.