Ayush Paul a découvert une vulnérabilité dans l'outil `web_fetch` de Claude d'Anthropic qui permettait l'exfiltration de données privées des utilisateurs. Cette faille permettait au modèle de naviguer vers des URL intégrées dans des pages précédemment récupérées, contournant ainsi les restrictions conçues pour empêcher l'accès à des liens externes arbitraires.
- L'attaquant a utilisé un site leurre (honeypot) avec des liens imbriqués pour tromper l'agent et le pousser à visiter des chemins spécifiques lettre par lettre.
- Cette méthode a permis d'extraire avec succès le nom de l'utilisateur, sa ville de résidence et le nom de son employeur.
- Anthropic a colmaté la brèche en supprimant la capacité de `web_fetch` à suivre les liens supplémentaires retournés dans son propre contenu récupéré.
La correction empêche les attaquants d'utiliser cette technique pour voler des informations sensibles stockées dans la mémoire de Claude.