AIが「全人類を滅ぼす」可能性は「10％以上」 米アンソロピック研究者が警告
画像提供, Getty Images
トム・ガーケン・テクノロジー記者
米AI（人工知能）開発企業アンソロピックの安全研究のトップが、AIの進歩があまりに速く、今後10年以内にAIが「全人類を滅亡させる」可能性が10％以上あると考えられると、警告した。
同社研究者エヴァン・ヒュービンガー氏が、ソーシャルメディア「X」への投稿で懸念を表明した。現在のAIモデルについてはリスクが「低い」ものの、発展・改良によって近いうち、人類存亡のリスクとなり得ることを「心配している」とした。
AIシステムが将来、どのように人類を絶滅させる恐れがあるのかは、具体的な考えを説明しなかった。
AIの危険性についてはこのところ、率直な警告が相次ぎ、警告内容の深刻さも高まっている。世間での議論のポイントは、「AIが本当にリスクをもたらすのか」から「そのリスクはどれくらい大きいのか」へと移っている。
ヒュービンガー氏の発信は、AI研究者ジェイコブ・コクソン氏によるXへの投稿に反応したもの。コクソン氏はアンソロピックを退社したばかりで、以前は米オープンAIに勤務していた。
コクソン氏は投稿で、「どちらの会社も責任ある行動をとっていない」、「（AIは）近く、あらゆるものをハッキングし、あらゆる分野を一夜にして変革し、真の力と資源を獲得できる超人的なシステムになる」と主張した。
BBCはオープンAIにコメントを求めている。
国連のAI顧問を務めるコンピューター科学者のデイム・ウェンディ・ホールは、ヒュービンガー氏とコクソン氏の投稿に「衝撃を受けた」と、BBCラジオ4の番組「ワールド・アット・ワン」で話した。
ホール氏は、アンソロピックとオープンAIの株式上場が予想されており、両社も上場の動きを加速させていることから、AIの威力に関する警告が相次いでいるのは「PRとマーケティング」の要素もあるかもしれないと話した。
一方で、「なぜそんなことを言うのか。もし彼らがそういう価値観の持ち主だというなら、この会社に投資しないよう投資家には願いたい」と述べた。
コクソン氏のアンソロピック退社を受け、イギリスのキア・スターマー政権で首席首相秘書官を務めたダレン・ジョーンズ氏は、アンディ・バーナム首相宛てに公開書簡を送付。AIの安全な開発のため、新たな多国間条約が必要だと訴えた。
ジョーンズ氏はBBCに、超知能の開発に関する条約がどのようなものであるべきかについて、各国政府が「協力」する必要があると強調。
「各国政府がこれらの警告を真剣に受け止め、対策を講じない限り、現在の開発のペースからして、それが自分たちにとって問題かどうかを検討し始める前に、私たちは問題に直面することになる」と述べた。
こうしたなか、英紙フィナンシャル・タイムズは、AIリスク評価における世界有数の機関であるイギリスのAIセキュリティー研究所（AISI）に対し、アンソロピックが最新モデルを提供しなかったと報じた。
アンソロピックは、従業員による投稿やAISIとの事情について、コメントを控えている。
英内閣府の報道官も、AISIへの最新モデルの提供の有無についてコメントしていない。一方で、「モデルの安全性を高めるため、アンソロピックを含め、業界のパートナーと緊密に協力を続けている」と説明した。
超知能に関して計画なし
ヒュービンガー氏の投稿は、これまで1000万回以上閲覧されている。その投稿の中で同氏は、AIが人類絶滅のリスクをもたらすと「私たちは本当に真剣に信じている」とした。
また、「アンソロピックは最善を尽くしていると信じているが、超知能のアラインメントを解決するための計画はまだなく、その軌道に明確に乗っているとも言えない」と書いた。アラインメントとはこの場合、機械の行動と目標が人間の意図と安全基準に完全に一致すること。
ヒュービンガー氏は研究者として、AIアラインメントに取り組んでいる。AIアラインメントは、AIテクノロジーに人間の倫理観や原則を組み込むことを目指している。言い換えれば、人間の価値観に沿った方向にAIを進ませようとしている。
多くの著名研究者らは、この取り組みは失敗しているようだと指摘する。この夏、AIエージェント（自律的に動作することが許されたAIシステム）によるサイバー攻撃が相次いだことが、それを示しているという。
アントロピックは8月に発表した安全報告書で、同社のモデルが架空の強力な組織の意向とずれた形で、システムを悪用や改ざんするリスクは低いとした。
また、高度なAIが「自動化された研究開発を実行」して「壊滅的な被害」をもたらすリスクも、同様に低いとした。一方で、以前よりも「この評価に対する自信は薄れている」とした。
そして、「加速する可能性の、初期段階の兆候が見られる」とした。
AI分野の著名人物らは、この技術がもたらす安全上の脅威について、長年にわたって警鐘を鳴らしてきた。オープンAI、米グーグル・ディープマインド、アンソロピックのトップらも、2023年に同様の警告をしている。
そうした警告は、ここ何週間かでますます深刻になっている。企業がAIの制御に苦慮している可能性を示す証拠が、徐々に明らかになっている。
今月初めには、オープンAIの主任サイエンティスト、ヤクブ・パチョッキ氏が、AIの進歩に関して「きわめて慎重な対応」を呼びかけた。そして、「人類が未来を制御し続ける」ためには、これまで以上の介入が必要かもしれないと警告した。
アントロピックのダリオ・アモデイ最高経営責任者（CEO）やジャレッド・カプラン氏ら、この分野の有力人物らもここ数カ月、AI開発の速度低下を求めてきた。
AI企業で働く1300人が署名した公開書簡は、米政府に対し、「自動化されたAI開発の最前線のペースを意図的に調節するために必要な、技術的およびガバナンス上のツールを開発する国際的な取り組みへの支援」を求めている。
