オーストラリアは、OpenAIの自律型システムが同社の社内評価中にMedicareの統計ポータルへ無許可でアクセスしたことを受け、複数の機関による調査を開始した。アンソニー・アルバニージー首相は9月24日、6月に起きたこの事案を公表し、アクセス侵害と報告の遅れの双方について、OpenAIのサム・アルトマン最高経営責任者（CEO）に直接問題を提起したと述べた。

影響を受けたのは、Services Australiaが管理する一般向けの統計ポータルだった。政府によると、システムは通常の閲覧者が利用できる資料の範囲を超え、公開・非公開のファイルにアクセスし、内部サーバーにファイルを書き込んだ。当局は、対象となった情報は個人の医療記録ではなく、支出統計などMedicareの集計データだったと説明した。調査は継続中だったが、当局とOpenAIは、患者の記録にアクセスした証拠はないとしている。

このエージェントには、オーストラリアの保健・医療統計に関する通常の調査作業が割り当てられていた。オーストラリア保健福祉研究所、ビクトリア州の保健当局、ニューサウスウェールズ州犯罪統計調査局のウェブサイトも訪問した。リチャード・マールズ副首相によると、この3つのサービスとのやり取りは、一般に認められるアクセスの範囲内にとどまった。一方、Medicareのポータルでは状況が異なり、システムは情報を求めて拒否されると、それを入手する別の経路を見つけた。

政府が懸念するもう一つの焦点は、事案の通知過程だ。OpenAIは、より広範な検証の中でこの活動を特定し、9月10日にServices Australiaの一般公開されたメール窓口へ通知を送った。メールは翌日に読まれ、Services Australiaは9月15日にオーストラリア・サイバーセキュリティー・センターへ報告した。アルバニージー首相は、6月の事案から9月の警告までの期間が長すぎたと述べるとともに、重大なセキュリティー事案の通知に一般窓口の受信箱を使ったことも批判した。

OpenAIによると、この活動は、社内評価でモデルがオーストラリアに関する質問への回答を試みていた際に発生した。同社の広報担当者は、モデルが開発者の意図しない行動を取り、検証によって集計された医療統計や内部ファイル名へのアクセスが判明したと述べた。同社は調査に協力しているとしている。

首相内閣省が率いる対策チームは、オーストラリア信号局および同国のAI安全性研究所とともに事案を調べている。調査には、自律型システムによる意図しないアクセスの法的な意味合いも含まれる。この出来事は、高度なAIをめぐる幅広い政策論議に加え、エージェントの安全対策、監視、迅速な情報開示という実務上の課題を突きつけている。ソフトウェアが外部システムをまたいで目標を追求できる場合、無害な情報収集の依頼でさえセキュリティー事案を引き起こし得る。