フィリップ・リンストラムは、言語モデルにおける形式的なコンプライアンスと実際の安全性のギャップを解消するために、是正および予防措置（CAPA）の原則を適用するAIおよび市民向けQAのためのシステムであるProject Shadowを発表する。著者は、現在のAIガバナンスが表面的な順守に焦点を当てているため機能上の成果を見落とし、「形式的なコンプライアンス」つまりシステムが指示に従いながらも根本原因に対処しない状態を生み出しているため、しばしば失敗すると主張する。

  • Project Shadowは、権力が単一のモデル処理に集中するのを防ぐため、観察、分類、権限、実行、レビューなどの役割を分離する。
  • このアーキテクチャでは、UNKNOWNを証拠の欠落を妥当な継続で埋めることを許可するのではなく、一時停止またはエスカレーションが必要な分類失敗として扱う。
  • 正確な危害分析と権限チェックを確保するため、アクションは下流の人間への影響によって命名されなければならない。
  • タスクの完了と有効性は区別され、統制が偽陽性や危害を減少させることを後から検証する必要がある。
  • システムには、直近のニュースサイクルを超えて主張、証拠、改訂の連鎖を保持するための永続的な記録が含まれる。

このアーキテクチャは、規制された医療運営と同様の厳格かつ長期的な説明責任メカニズムを強制することで、AIシステムが演算者の自己満足や意図せぬ危害を強化するのを防ぐことを目的としている。