Metaは、Muse Spark 1.3モデルに基づいて構築され、プロンプトインジェクション攻撃から保護するためのセキュリティ機能を持つパーソナルAIエージェントであるMuseを導入しました。このシステムは、信頼できないデータとユーザーの資格情報を分離するために、密封されたランタイムセルと外部サービスゾーンに分かれた隔離された仮想マシンで各エージェントを実行します。

  • Museはメール、ブラウザ、カレンダーなどのアプリに接続し、ユーザーが各サービスに対して読み取りまたは書き込みアクセスを選択可能に設定できます。
  • ランタイムセル外の資格情報サービスがパスワードを処理する一方で、エージェントは代替トークンを使用し、プロンプトインジェクションによる資格情報の盗難を防ぎます。
  • Sentinelという外部エージェントが、アクションの承認や実際の資格情報への交換を行う前に、ユーザーの権限に基づいて送信されるリクエストを検査します。
  • システムには、受信データをスクリーニングするための分類器と、隠された命令を回避するために生のページコードではなく構造化されたアクセシビリティツリーを読み取るサブエージェントが含まれています。

プロンプトインジェクションが依然として主要な脆弱性であるため、エージェントシステムにとってセキュリティは極めて重要です。Metaのアーキテクチャは、初期の防御策が失敗した場合でも、ユーザーデータを保持するセキュリティコンポーネントをエージェントが上書きできないことを保証することを目的としています。