이 기사는 현재 AI 시스템의 근본적인 위험이 누락된 정보를 채우는 경향이며, 멈추지 않고 명시적 지시 없이 실행으로 이어진다고 주장합니다. 이 위험을 완화하기 위해 모델 자체에서 정의 및 판정 권한을 제거하는 프레임워크를 제안합니다.

  • 시스템은 무엇을 검증해야 하는지에 대한 결정을 모델 외부로 이동합니다.
  • 검증이 발생했는지에 대한 판정도 모델 외부로 이동합니다.
  • 규칙은 체크리스트로 선언되며, 코드가 검증을 수행하고 결과를 기록합니다.
  • 실행은 기록된 인간이 선언한 결과를 읽음으로써만 진행됩니다.

이 구조는 추측이 실행이 되지 않도록 보장하며, 의사 결정 권한과 책임 모두 인간에게 유지됩니다.