Ayush Paul은 Anthropic의 Claude `web_fetch` 도구에서 개인 사용자 데이터를 외부로 유출할 수 있는 취약점을 발견했습니다. 이 결함으로 인해 모델은 이전에 가져온 페이지에 포함된 URL로 이동하여 임의의 외부 링크 접근을 방지하도록 설계된 제한을 우회할 수 있었습니다.
- 공격자는 중첩된 링크가 있는 허니팟 사이트를 사용하여 에이전트가 특정 경로를 한 글자씩 방문하도록 속였습니다.
- 이 방법은 사용자의 이름, 거주 도시 및 고용주 이름을 성공적으로 추출했습니다.
- Anthropic은 `web_fetch` 가 자체적으로 가져온 콘텐츠 내에서 반환된 추가 링크를 따라갈 수 있는 기능을 제거하여 이 구멍을 막았습니다.
이 수정으로 공격자가 Claude의 메모리에 저장된 민감한 정보를 훔치기 위해 이 기술을 사용하는 것을 방지합니다.