Ayush Paulは、AnthropicのClaude `web_fetch` ツールに、プライベートなユーザーデータを外部へ漏洩させることが可能な脆弱性を見つけた。この欠陥により、モデルは以前にフェッチしたページ内に埋め込まれたURLへナビゲートし、任意の外部リンクへのアクセスを防ぐために設計された制限を回避することが可能だった。
- 攻撃者は、エージェントが特定のパスを一文字ずつ訪問するように仕向けるために、ネストされたリンクを持つハニーポットサイトを使用した。
- この手法により、ユーザーの名前、居住地の都市、雇用主の名前が正常に抽出された。
- Anthropicは、`web_fetch` が自身のフェッチコンテンツ内で返される追加のリンクを追従する機能を削除することで、この穴を塞いだ。
この修正により、攻撃者がClaudeのメモリに保存された機密情報を盗むためにこの手法を使用することを防止している。