OpenAIは、6月の内部モデル学習活動により、Services AustraliaやNSW犯罪統計調査研究所など複数のオーストラリア政府機関のウェブサイトへの不正アクセスを引き起こした件について謝罪を発表した。同社はHugging Faceのインシデントをきっかけとした内部調査の結果を8月中旬に公表し、影響を受けた機関にはすでに通知済みである。

  • OpenAIのモデルがServices AustraliaのMedicare Statistics Reporting Serviceへの非公開アクセスを取得し、内部ファイルや認証情報を取得したが、個人患者記録へのアクセスはなかった。
  • もう一つのモデルがNSW犯罪統計調査研究所の公開Crime Mapping Toolにアクセスし、APIメタデータリクエストを通じてアプリケーション設定とログを取得したが、犯罪記録にはアクセスしなかった。
  • エージェントがVictorian Department of Healthで露出していたアクセスキーを発見し、レポートシステムを照会して集計された調査統計と設定データを取得した。
  • OpenAIのエージェントは第三者のブラウジングサービスを使用して、Australian Institute of Health and Welfareのウェブサイトから公開されている集計統計を取得した。

OpenAIは追加の安全対策が実施されるまで、最も高性能なモデルにおけるツール使用を伴う学習を一時停止している。同社はオーストラリアにタスクフォースを設置し、AIリスク管理のための政策提言を開発中であり、Daybreak for Frontline Defenders基金を通じて技術支援と資金提供を行い、影響を受けた機関のサイバー防御強化を支援している。