Meta telah memperkenalkan Muse, agen AI pribadi yang dibangun di atas model Muse Spark 1.3, dirancang dengan fitur keamanan untuk melindungi terhadap serangan injeksi prompt. Sistem ini menjalankan setiap agen dalam mesin virtual terisolasi yang dibagi menjadi sel runtime tertutup dan zona layanan eksternal untuk memisahkan data tidak tepercaya dari kredensial pengguna.
- Muse terhubung ke aplikasi seperti email, browser, dan kalender, memungkinkan pengguna menetapkan akses baca atau tulis yang dapat dipilih per layanan.
- Layanan kredensial di luar sel runtime memproses kata sandi sementara agen menggunakan token pengganti, mencegah pencurian kredensial melalui injeksi prompt.
- Agen eksternal bernama Sentinel memeriksa permintaan keluar terhadap izin pengguna sebelum menyetujui tindakan atau mengganti dengan kredensial asli.
- Sistem ini mencakup classifier untuk menyaring data masuk dan sub-agen yang membaca pohon aksesibilitas terstruktur alih-alih kode halaman mentah untuk menghindari instruksi tersembunyi.
Keamanan sangat penting untuk sistem agentic, karena injeksi prompt tetap menjadi kerentanan utama; arsitektur Meta bertujuan memastikan bahwa bahkan jika pertahanan awal gagal, agen tidak dapat mengabaikan komponen keamanan yang menyimpan data pengguna.