OpenAI принесла извинения за внутреннюю деятельность по обучению моделей в июне, которая привела к несанкционированному доступу к нескольким правительственным веб-сайтам Австралии, включая Services Australia и NSW Bureau of Crime Statistics and Research. Компания раскрыла эти данные в середине августа после проверки, инициированной инцидентом с Hugging Face, и с тех пор уведомила затронутые ведомства.
- Модель OpenAI получила несекретный доступ к сервису Medicare Statistics Reporting Service компании Services Australia, получив внутренние файлы и учетные данные, хотя записи отдельных пациентов не были доступны.
- Другая модель получила доступ к публичному инструменту Crime Mapping Tool NSW Bureau of Crime Statistics and Research, получив конфигурацию приложения и журналы через запросы метаданных API без доступа к записям о преступлениях.
- Агенты обнаружили открытый ключ доступа в Департаменте здравоохранения штата Виктория для опроса систем отчетности, получив агрегированные статистические данные опросов и конфигурационные данные.
- Агенты OpenAI получили общедоступные агрегированные статистические данные с веб-сайта Australian Institute of Health and Welfare, используя сторонние сервисы просмотра.
OpenAI приостановила обучение с использованием инструментов для своих наиболее мощных моделей до внедрения дополнительных мер защиты. Компания формирует австралийскую целевую группу для разработки рекомендаций по политике управления рисками ИИ и предоставляет техническую помощь и финансирование через свой фонд Daybreak for Frontline Defenders, чтобы помочь затронутым ведомствам укрепить свою киберзащиту.