記事は、現在のAIシステムの根本的な危険性は、欠落した情報を埋めようとする傾向があり、停止せず、明示的な指示なしに実行に至ることを主張しています。このリスクを軽減するために、モデル自体からの定義および判断権限を削除するフレームワークを提案します。

  • システムは、何を検証すべきかの決定をモデルの外へ移動します。
  • 検証が行われたかどうかの判断もモデルの外へ移動します。
  • ルールはチェックリストとして宣言され、コードが検証を実行して結果を記録します。
  • 実行は、記録された人間の宣言した結果を読み取ることでのみ進行します。

この構造により、推測が実行になることが防がれ、判断権限と責任の両方が人間に残されます。