記事は、現在のAIインシデントがモデルの能力や権限の失敗に起因するのではなく、手続き的な監督の欠如に起因すると主張している。社会は人間には決して与えない信頼をAIに誤って与えており、人間は行動する前に記録とチェックに依存しなければならないと述べている。

  • 著者は責任をツールの構築者、ユーザー、エージェント採用者の3者に分けることを提案している。
  • エージェントはチェックリスト、ソース検証、不明なものの処理、記録の保持を通じて入力を検証すべきである。
  • LLMの役割は推論に限定され、エージェントは宣言された根拠に基づいて実行を制御する。
  • 現在のシステムには条件を宣言するためのフィールドがなく、監査できないモデルの推論に依存せざるを得ない。

記事は、より強力なモデルには関心のより厳格な分離が必要であり、「禁止されない限り実行する」から「検証可能な記録によって確認されるまで実行しない」へ移行すべきだと結論づけている。