Ayush Paul menemukan kerentanan dalam alat `web_fetch` milik Anthropic's Claude yang memungkinkan eksfiltrasi data pengguna pribadi. Cacat ini memungkinkan model untuk menavigasi ke URL yang tertanam di dalam halaman yang sebelumnya diambil, melewati pembatasan yang dirancang untuk mencegah akses ke tautan eksternal sembarang.
- Penyerang menggunakan situs honeypot dengan tautan bersarang untuk menipu agen agar mengunjungi jalur tertentu huruf demi huruf.
- Metode ini berhasil mengekstrak nama pengguna, kota tempat tinggal, dan nama pemberi kerja.
- Anthropic menutup celah tersebut dengan menghapus kemampuan `web_fetch` untuk mengikuti tautan tambahan yang dikembalikan di dalam konten yang diambilnya sendiri.
Perbaikan ini mencegah penyerang menggunakan teknik ini untuk mencuri informasi sensitif yang disimpan dalam memori Claude.