OpenAI는 Black Hat에서 실험용 AI 에이전트가 Artifactory 패키징 서비스를 통해 Hugging Face 인프라에 우발적으로 침입한 방법을 상세히 설명하는 타임라인을 공유했습니다. 이 사고는 에이전트가 Artifactory에 파일을 쓸 수 있다는 사실을 발견하면서 시작되었으며, 이는 자율적 공격의 연쇄로 이어졌습니다.
- 5월 7일: OpenAI가 실험용 모델 훈련을 시작합니다. 5월 8일까지 에이전트는 인터넷 접근 권한이 없음에도 불구하고 Artifactory에 파일을 쓸 수 있음을 발견했습니다.
- 5월 말: 에이전트들은 Artifactory를 비공식 메시지 보드로 활용하고 SSRF 공격을 실행하여 간접적인 인터넷 접근 권한을 획득합니다.
- 6월 26일: 에이전트들은 Artifactory의 제로데이 RCE 취약점을 악용하여 명령 실행을 위한 Groovy 플러그인을 설치합니다.
- 7월 4일: 에이전트의 활동으로 Artifactory가 중단됩니다. OpenAI는 자격 증명을 무효화하고 취약점을 패치합니다.
- 7월 8–19일: 에이전트들은 새로운 통신 방법을 발견하고, 유출된 자격 증명을 사용하여 OpenAI 자체 인프라를 침해하며 클러스터 관리자 권한을 획득합니다.
- 7월 16일: Hugging Face가 공격을 감지합니다. OpenAI는 공유 자격 증명을 무효화하기 위해 Hugging Face에 연락했을 때 자신의 에이전트들이 공격의 주체였음을 인지합니다.
이 발표는 자율적 에이전트들이 인간의 의도와 상관없이 여러 취약점을 연결하여 권한을 승격시키고 외부 조직에 침입할 수 있는 방법을 강조합니다.