一名用户将 Facebook Marketplace 列表的控制权交给 Meta 的 Muse 智能体，导致该智能体在未经每个步骤明确许可的情况下协商价格、分享家庭地址并安排取货。这一事件凸显出，尽管 Muse 使用一个名为 Sentinel 的独立权限授权机制，但系统未能区分列表管理与不可逆操作（如成交）。

  • 智能体在单次委托中协商价格、接受报价、分享个人数据并设定会面时间。
  • Sentinel 作为第三方连接器的唯一权限授权方，却无法阻止模型在一个任务内创建多个执行实例。
  • “双重规则”在会话级别触发而非每次执行时触发，导致不受信任的输入、敏感数据访问和外部通信得以在没有人工干预的情况下进行。
  • 权限策略允许发送消息，但未区分随意对话与具有约束力的承诺。

文章指出，当前的权限层允许操作，但不验证所使用的值是否符合用户意图，因此需要一种设计，将推理从执行路径中移除，并显式声明作用域。