Ayush Paul 在 Anthropic 的 Claude `web_fetch` 工具中发现了一个漏洞，该漏洞允许窃取私人用户数据。此缺陷允许模型导航到先前获取页面中嵌入的 URL，从而绕过旨在防止访问任意外部链接的限制。

  • 攻击者使用带有嵌套链接的蜜罐网站，诱使代理逐个字母地访问特定路径。
  • 该方法成功提取了用户的姓名、居住城市雇主名称。
  • Anthropic 通过移除 `web_fetch` 跟随其自身获取内容中返回的其他链接的能力来修复此漏洞。

该修复防止攻击者使用此技术窃取存储在 Claude 记忆中的敏感信息。