Phillip Linstrum memaparkan Project Shadow, sebuah sistem untuk QA AI dan sipil yang menerapkan prinsip corrective and preventive action (CAPA) untuk mengatasi kesenjangan antara kepatuhan harfiah dan keamanan aktual dalam model bahasa. Penulis berargumen bahwa tata kelola AI saat ini sering gagal karena berfokus pada kepatuhan permukaan daripada hasil fungsional, sehingga menyebabkan "kepatuhan harfiah" di mana sistem mematuhi instruksi tanpa menangani akar masalah.
- Project Shadow memisahkan peran seperti observasi, klasifikasi, otoritas, eksekusi, dan tinjauan untuk mencegah konsentrasi kekuasaan dalam satu kali proses model.
- Arsitektur ini menganggap UNKNOWN sebagai kegagalan klasifikasi yang memerlukan jeda atau eskalasi, alih-alih mengizinkan model mengisi celah bukti dengan kelanjutan yang masuk akal.
- Aksi harus dinamai berdasarkan efek downstream pada manusia untuk memastikan analisis bahaya dan pemeriksaan otoritas yang akurat.
- Penyelesaian tugas dibedakan dari efektivitas, memerlukan verifikasi selanjutnya bahwa kontrol mengurangi false positives atau bahaya.
- Sistem ini mencakup Record persisten untuk menjaga rantai klaim, bukti, dan revisi melampaui siklus berita langsung.
Arsitektur ini bertujuan mencegah sistem AI memperkuat ego operator atau menyebabkan bahaya tak terduga dengan menerapkan mekanisme akuntabilitas jangka panjang yang ketat, serupa dengan yang ada dalam operasi kesehatan terregulasi.