Аюш Паул обнаружил уязвимость в инструменте `web_fetch` Anthropic's Claude, которая позволяла осуществлять эксфильтрацию приватных пользовательских данных. Эта ошибка позволяла модели переходить по URL-адресам, встроенным в ранее загруженные страницы, обходя ограничения, предназначенные для предотвращения доступа к произвольным внешним ссылкам.
- Атакующий использовал сайт-приманку с вложенными ссылками, чтобы заставить агента последовательно посещать определённые пути по буквам.
- Этот метод успешно позволил извлечь имя пользователя, город проживания и название работодателя.
- Anthropic устранила дыру, убрав возможность `web_fetch` следовать по дополнительным ссылкам, возвращаемым внутри собственного загруженного контента.
Исправление предотвращает использование атакующими этой техники для кражи конфиденциальной информации, хранящейся в памяти Claude.