米オープンAIのエージェント、豪政府ウェブサイトに「侵入」 首相が明かす
画像提供, EPA/Shutterstock
ハリー・セクリッチ記者、ラナ・ラム記者（シドニー）
オーストラリアのアンソニー・アルバニージー首相は23日、米オープンAIの人工知能（AI）エージェントが今年6月、オーストラリア政府のウェブサイトに「侵入」したと述べた。同国の国民皆保険制度「メディケア」に入り込み、「機密性の低い」データを含む統計ポータルをハッキングしたという。
国連総会に出席するために米ニューヨークに滞在中のアルバニージー首相はこの日、オープンAIが不正アクセスを知らせるのに「時間がかかりすぎた」ことについて、同社のサム・アルトマン最高経営責任者（CEO）と「非常に率直な話し合い」を行ったと発表。「法的措置」が取られるだろうと述べた。
AIが政府ウェブサイトに対して行ったハッキングが公に報告された事例は、世界で初めてと考えられている。
オープンAIはこの件を、「（AI）モデルの不整合な活動」に関する「継続的な調査」の中で8月に初めて認識し、9月10日にオーストラリア当局に報告したと述べた。
調査は現在も続けられているが、オープンAIは声明で、AIが患者の記録にアクセスした形跡はないと述べた。
アルバニージー首相によると、不正アクセスは今年6月に発生したが、オープンAIは9月10日、政府サービスポータル「サーヴィシズ・オーストラリア」に電子メールで連絡してきただけだったという。その後、同機関が関係閣僚に連絡を取り、首相は先週末にこの情報を伝えられた。
首相はアルトマン氏との会談で「この事件について極めて深刻な懸念」を表明したと述べ、「当然ながら法的措置が取られるだろう」と付け加えた。
また、アルトマン氏が会談の中で、社内の「プロトコル上の問題」を認めたと、アルバニージー氏は話した。
AIエージェントは、公開ファイルと非公開ファイルの両方にアクセスしたという。
アルバニージー氏は、他の政府システムにも影響があったかどうかを調べるための「犯罪科学調査」が進行中だと説明。この調査は、オーストラリアのサイバーセキュリティー機関であるオーストラリア通信電子局（ASD）が主導するとした。
ハッキング被害を受けた、一般公開されているメディケア統計報告サービスは、「サーヴィシズ・オーストラリア」によって管理されている。
アルバニージー氏は、連邦機関である保健福祉研究所が「影響を受けた可能性がある」と指摘したほか、ニューサウスウェールズ州の犯罪統計調査局とヴィクトリア州保健省も影響を受けた可能性があると述べた。
オープンAIの広報担当者は声明の中で、「社内調査では、当社のモデルがオーストラリアに関する質問への回答や利用可能な統計情報を検索しようとした際に、複数のオーストラリア政府のウェブサイトやサービスに関する活動を行ったことが特定された」と述べた。
「その過程で、当社のモデルは意図しない動作をした」、「アクセスされた情報には、集計された健康統計データと内部ファイル名が含まれていた」とも、声明は説明している。
アルバニージー氏は記者団に対し、「現時点では個人情報が不正にアクセスされた形跡はないが、調査は継続中だ」と述べた。
「現時点で入手可能な証拠によれば、サーヴィシズ・オーストラリアのネットワーク全体に広範な影響は及んでいない。とはいえ、この状況は明らかに容認できない」
一方でアルバニージー氏は、22日夜に行われたドナルド・トランプ米大統領との直接会談で、この問題を取り上げたかどうかについては回答を拒否した。
オーストラリアは今月、AIの開発に対する世界的な監視と安全策を求める共同声明に署名した22カ国のうちの1カ国。
サイバーセキュリティーの専門家らは、AIエージェントが個人利用や商業利用においてより広く普及しつつある現状を踏まえると、今回の事件は世界中の政府にとって「警鐘となるべき」事態だと述べている。
豪ニューサウスウェールズ大学サイバーセキュリティー研究所の上級講師であるハモンド・ピアース博士はBBCに、「こうした種類の攻撃は今後も発生し続けるだろう。その深刻度と頻度は増していくはずだ」と語った。
オープンAIは今年7月、一部のAIエージェントのセキュリティーテスト中に制御がきかなくなって暴走し、開発プラットフォーム企業の米ハギングフェイスをハッキング攻撃したことを明らかにした。
豪シドニー大学のAI規制・政策担当上級研究員であるロブ・ニコルズ博士はBBCに対し、「ハギングフェイス事件は、AIエージェントが『行儀よく振る舞わなかった』場合に何が起こり得るかを示した」と述べた。
AIエージェントには通常、目的と一連のパラメータが設定されたタスクが与えられるが、「問題は、エージェントは人間ではないという点だ」と、ニコルズ博士は指摘。「（AI）エージェントにタスクを与えると、そのエージェントにとって最も重要なのは、設定されたタスクを達成することであり、ルールは目的よりも二次的な問題になりがちだ。そこに問題が生じる」と述べた。
