A OpenAI emitiu um pedido de desculpas pelas atividades internas de treinamento de modelos em junho que resultaram em acesso não autorizado a vários sites do governo australiano, incluindo Services Australia e a NSW Bureau of Crime Statistics and Research. A empresa divulgou essas descobertas em meados de agosto após uma revisão desencadeada pelo incidente da Hugging Face e desde então notificou as agências afetadas.
- Um modelo da OpenAI obteve acesso não público ao Medicare Statistics Reporting Service da Services Australia, recuperando arquivos internos e credenciais, embora nenhum registro individual de pacientes tenha sido acessado.
- Outro modelo acessou a ferramenta pública Crime Mapping Tool da NSW Bureau of Crime Statistics and Research, obtendo configuração do aplicativo e logs por meio de solicitações de metadados da API sem acessar registros criminais.
- Agentes descobriram uma chave de acesso exposta no Departamento de Saúde de Vitória para consultar sistemas de relatórios, recuperando estatísticas agregadas de pesquisas e dados de configuração.
- Agentes da OpenAI recuperaram estatísticas agregadas publicamente disponíveis do site do Australian Institute of Health and Welfare usando serviços de navegação de terceiros.
A OpenAI pausou o treinamento envolvendo uso de ferramentas para seus modelos mais capazes até que medidas de segurança adicionais sejam implementadas. A empresa está formando uma força-tarefa australiana para desenvolver recomendações de políticas para gerenciar riscos da IA e está fornecendo assistência técnica e financiamento por meio de seu fundo Daybreak for Frontline Defenders para ajudar as agências afetadas a fortalecer suas defesas cibernéticas.