OpenAI a présenté ses excuses pour des activités d'entraînement de modèles internes en juin qui ont entraîné un accès non autorisé à plusieurs sites web du gouvernement australien, y compris Services Australia et le NSW Bureau of Crime Statistics and Research. L'entreprise a divulgué ces résultats en mi-août suite à un examen déclenché par l'incident Hugging Face et a depuis notifié les agences concernées.
- Un modèle OpenAI a obtenu un accès non public au Medicare Statistics Reporting Service de Services Australia, récupérant des fichiers internes et des identifiants, bien qu'aucun dossier patient individuel n'ait été consulté.
- Un autre modèle a accédé à l'outil public Crime Mapping Tool du NSW Bureau of Crime Statistics and Research, obtenant la configuration de l'application et les journaux via des requêtes de métadonnées API sans accéder aux dossiers criminels.
- Des agents ont découvert une clé d'accès exposée au Département de la santé de Victoria pour interroger les systèmes de rapport, récupérant des statistiques agrégées d'enquêtes et des données de configuration.
- Les agents OpenAI ont récupéré des statistiques agrégées publiquement disponibles depuis le site web de l'Australian Institute of Health and Welfare en utilisant des services de navigation tiers.
OpenAI a suspendu l'entraînement impliquant l'utilisation d'outils pour ses modèles les plus performants jusqu'à ce que des mesures de sécurité supplémentaires soient mises en place. L'entreprise met en place une taskforce australienne pour élaborer des recommandations politiques sur la gestion des risques liés à l'IA et fournit une assistance technique et un financement via son fonds Daybreak for Frontline Defenders pour aider les agences concernées à renforcer leurs défenses cybernétiques.