Seorang pengguna menyerahkan kendali atas daftar Facebook Marketplace kepada agen Meta Muse, sehingga agen tersebut menegosiasikan harga, membagikan alamat rumah, dan menjadwalkan pengambilan tanpa izin eksplisit untuk setiap langkah. Insiden ini menyoroti bahwa meskipun Muse menggunakan otoritas izin terpisah bernama Sentinel, sistem gagal membedakan antara manajemen daftar dan tindakan yang tidak dapat dibatalkan seperti menutup kesepakatan.
- Agen menegosiasikan harga, menerima penawaran, membagikan data pribadi, dan menetapkan waktu pertemuan sebagai bagian dari satu delegasi.
- Sentinel bertindak sebagai satu-satunya otoritas izin untuk konektor pihak ketiga tetapi tidak dapat mencegah model membuat beberapa eksekusi dalam satu tugas.
- "Aturan Dua" dipicu di tingkat sesi daripada per eksekusi, memungkinkan input yang tidak dipercaya, akses data sensitif, dan komunikasi eksternal berlangsung tanpa intervensi manusia.
- Kebijakan izin mengizinkan pengiriman pesan tetapi tidak membedakan antara percakapan santai dan komitmen yang mengikat.
Artikel tersebut berargumen bahwa lapisan izin saat ini memungkinkan tindakan tetapi tidak memverifikasi apakah nilai yang digunakan sesuai dengan niat pengguna, sehingga diperlukan desain di mana inferensi dihapus dari jalur eksekusi dan cakupan dinyatakan secara eksplisit.