生物兵器開発につながり得るAIの「悪用」を阻止 米アンソロピックが発表
画像提供, Reuters
米AI（人工知能）開発企業アンソロピックは10日、生物兵器や通常兵器の開発を支援する恐れのある「悪意ある活動」に、同社のAIモデルを使用しようとする試みを見つけ、阻止したと発表した。
アンソロピックの最新の脅威情報報告書によると、同社のAIモデル「クロード」は、ロシアと関連するサイバー諜報活動や、イランのプロパガンダ機関などに使用されていた。
過去8カ月間に同社が確認した懸念すべき事例は、偽の出会い系アプリやホテルのWi-Fiを悪用した詐欺から、反体制派を特定するために構築された監視システムまで多岐にわたっていた。
今回の発表に先立ち、アンソロピックの安全性研究の責任者は、AIが人類にもたらす潜在的なリスクについて警告していた。
また、アンソロピックは、中国のAI企業がクロードの能力を複製しようとしているとも非難している。
同社は10日、最新の脅威情報報告書を公表した。公表の理由については、「自社サービスが悪意を持って悪用された事実を開示する責任がある」と考えるためだと説明した。
報告書は、国家の支援を受けている疑いのある集団や犯罪者、スパイウエア販売者、国家のプロパガンダ機関、政治的動機を持つ個人が、同社の技術を悪用した事例を列挙している。
アンソロピックによると、2025年12月から2026年8月にかけて、「クロード・ハイク」、「クロード・ソネット」、「クロード・オーパス」の各AIモデルの「悪意ある使用」を阻止した。
不正使用事例には、一般向けには強力過ぎるとされる「クロード・フェイブル」や「ミトス級」の高性能なAIモデルは関与していなかった。ただし、大規模かつ高価なAIモデルを使ってより小規模なモデルを訓練する「蒸留」と呼ばれるプロセスが1件あった。
アンソロピックは、自社モデルがサイバー活動や影響工作、監視、詐欺、不正行為、兵器開発に使用されていることを検知したほか、生物兵器の開発を支援しかねない方法でAIを使用していた科学者らのアクセスも遮断したと説明した。
報告書は、「生物兵器の開発を支援する可能性のある方法で、当社のモデルを使用した人物に関する5件の事例」について強調した。
アンソロピックは、生物分野での悪用について、「最先端AIモデルが抱える最も深刻なリスクの一つ」だと指摘。適切な安全対策が講じられなければ、こうした能力が「破滅的な結果をもたらす恐れがある」とした。
一方で、「生物兵器の開発に使える情報は、例えばワクチンや病気の治療法の開発にも活用できる」とした。
アンソロピックの脅威情報部門責任者、ジェイコブ・クライン氏は 米紙ニューヨーク・タイムズに対し、「極めて微妙な状況だ」とした。
「漫画の登場人物のように、『みんなを殺すための生物兵器を作りたい』なんて言う人が現れたわけではない」と、クライン氏は述べた。
クロードが「銃器、ミサイル、武装ドローン、爆弾、そのほかの弾薬を含む通常兵器用のソフトウエアおよびそれらを操作する照準・制御システムの開発」に使用された事例が6件あったとも、報告書は指摘している。
報告書によると、サイバー犯罪者や国家の支援を受けたハッカーは、自らの活動を支援するためにアンソロピックの技術をますます使用するようになっているという。
ハッカー集団「シャイニーハンターズ」や中国を拠点とする複数の研究所などが、報告書で名指しされている。
また、ロシアを拠点とするハッカー集団「ミッドナイト・ブリザード」と特徴が一致する集団が、AIを使い、自分たちのマルウエアがセキュリティー防御システムによって検知されたことを自動的に判別し、検知を回避できるうようコードを書き換えるシステムを構築した疑いがあるという。
米カリフォルニア州に本社を置くアンソロピックは、「将来、こうした活動をより効果的に防止、検知、阻止する」ため、今回の調査結果を社内のプロセスに反映したと説明した。
また、必要に応じて当局や業界パートナーと情報を共有していると明らかにした。
同社が今年初めて公表した脅威情報報告書は、同社の安全研究のトップが、AIの進歩があまりに速く、今後10年以内にAIが「全人類を滅亡させる」可能性が10％以上あると考えられると、警告する中で出された。
今月6日には、オープンAIの主任サイエンティスト、ヤクブ・パホツキ氏が、共通の安全策が確立されるまでは、企業がAI開発を自ら一時停止する「自主的な減速」が一般的になるよう期待していると述べた。
パホツキ氏は、「機械知能の急速な台頭が続くことでもたらされる結果に、誰も備えていないのではないかと懸念している」としている。生成AIチャットボット「チャットGPT」を開発した米オープンAIは、今後も安全対策の構築を続けるとしつつ、より広範な介入が必要だと指摘した。
こうした警告を受け、イギリスではアンディ・バーナム首相に対し、AIを安全に開発するための新たな多国間条約の締結を求める公開書簡が提出された。各国政府に対しては、超知能の開発を想定した条約の在り方を共同で検討するよう求めている。
アメリカでは、野党・民主党のバーニー・サンダース上院議員が、AIの超知能を禁止し、高度なAI開発を一時停止させる法案を提出した。
サンダース氏は10日、BBCの報道番組「ニューズナイト」で、「科学者が、人類に壊滅的な影響を及ぼす可能性があると指摘しているのに、開発速度を落とすべきだと言わないなんて愚かだ」と述べた。
（追加取材：オズモンド・チア）
