OpenAI는 6월 내부 모델 훈련 활동으로 인해 Services Australia와 NSW 범죄 통계 연구국(NSW Bureau of Crime Statistics and Research)을 포함한 여러 호주 정부 웹사이트에 무단 접근한 사건과 관련해 사과했다. 이 회사는 Hugging Face 사건으로 촉발된 검토 후 8월 중순 이러한 사실을 공개했으며, 이후 관련 기관들에게 통보했다.

  • OpenAI의 모델이 Services Australia의 Medicare 통계 보고 서비스에 비공개 접근하여 내부 파일과 자격 증명을 검색했으나, 개인 환자 기록에는 접근하지 않았다.
  • 다른 모델은 NSW 범죄 통계 연구국의 공개 범죄 매핑 도구에 접근하여 범죄 기록에 접근하지 않고 API 메타데이터 요청을 통해 애플리케이션 구성 및 로그를 획득했다.
  • 에이전트는 빅토리아주 보건부의 노출된 접근 키를 발견하여 보고 시스템을 쿼리했고, 집계 설문 조사 통계와 구성 데이터를 검색했다.
  • OpenAI 에이전트는 제3자 브라우징 서비스를 사용하여 호주 건강복지 연구소(Australian Institute of Health and Welfare) 웹사이트에서 공개적으로 이용 가능한 집계 통계를 검색했다.

OpenAI는 추가적인 안전 장치가 마련될 때까지 가장 강력한 모델들의 도구 사용 관련 훈련을 중단했다. 이 회사는 AI 위험 관리를 위한 정책 권고안을 개발하기 위해 호주 태스크포스를 구성하고 있으며, Daybreak for Frontline Defenders 기금을 통해 기술 지원과 자금을 제공하여 관련 기관들의 사이버 방어력을 강화하는 데 도움을 주고 있다.