【解説】AIの「減速」とはどうやるのか、募る疑問
画像提供, Reuters
ゾーイ・クラインマン テクノロジー・AI編集長
私は2023年11月、英ブレッチリー・パークで開催された世界最初のAI安全サミットに出席した。このサミットでは、最も強力なAIモデルによってもたらされる脅威の中でも、想定し得る最も深刻なものに焦点が当てられた。
多くの人は当時、これをSFの世界の話だと考え、現実の脅威はそれに比べてはるかにありふれたもの、つまり失業や試験での不正行為だと考えていた。しかし3年後、同じ人たちの多くは、そう確信できなくなっている様子だ。
米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、AIの開発ペースを減速させるよう要求した。ライバル企業2社のトップも同様で、米オープンAIのサム・アルトマンCEOと、米「xAI」を所有する米実業家イーロン・マスク氏は、アモデイ氏の意見に賛同すると表明した。
一方、すでにアンソロピックを退社し、AI企業への警告を発したAI研究者ジェイコブ・コクソン氏は13日、BBCに対し、同社でシステム開発に携わっていた従業員は人類の未来について「本当に恐れていた」と話した。
こうした発言は声をそろえて、開発の減速を真剣に求めている。しかし、手っ取り早い修正のように聞こえるかもしれないそれは、決して簡単な解決策ではない。
アメリカと中国のAI開発競争
アメリカは、最も強力なAIを開発する競争の中で、中国に敗れることを非常に恐れていると、広く認識されている。
ドナルド・トランプ米大統領は13日、AI開発競争においてアメリカは中国をリードしていると主張し、「AIで勝った者が勝つ」と宣言し、自分の見解を明確にした。
中国という国は、二番手になること良しとする国では決してない。私が取材した人は皆、たとえ自社が事業を一時停止しても、他社はそうしないだろうから、自分たちは取り残されてしまうだろうと言う。これは、核軍縮の動きが最高潮に達した頃を思い起こさせる。あの時の問題も今と同じで、誰も先頭に立とうとしなかった。
さらに、一体どうやって「減速」を実施するのかという問題もある。誰がそれを監視するのか？ AI企業が何をしているのか、そしてより重要なこととして、何をしていないのか、透明性をもって開示してくれることを、期待するしかないのだろうか？ そのためには途方もないレベルの信頼が必要だが、テクノロジー業界はこれまで、そのような信頼を得たことがないと言える。
アモデイ氏は自分の投稿で、AIモデルの開発段階における独立した監視、業界全体での規制、そして国際的な規制という3本柱からなる計画を提案したが、これが実際にどのように機能するのか疑問視する声もある。
「その『減速』が何を意味するのかについて、誰も実質的な説明をしていない」と、米調査会社EZプライマリー・リサーチのエド・ジトロンCEOは話す。
「アンソロピックを辞めたうちの1人がMETR（独立系AI研究機関）に移籍したが、そこの従業員をあらゆるAI企業に配置するなどか？ 民主的でグローバルな『協調』？ どれも私には無意味に思える」
ジトロン氏は、AIモデルのトレーニングを停止すれば、中国の競合に対して脆弱（ぜいじゃく）になると述べた。
「企業の利益率は向上するかもしれないが、その製品はコハクの中に閉じ込められたかのようになり、中国の研究所で精製されることになるだろう。価格を変更せざるを得なくなるかもしれない。正直なところ、どうやったら（減速が）できるのか全く分からない」
「これはAIバブルの崩壊につながる可能性がある。だが現時点では、『減速』が何を意味するのか、明確な基準がほとんどない。」
AIバブルは崩壊するのか
イギリスでは、国民保健サービス（NHS）にAI技術を広く導入して患者ケアを向上させる計画が持ち上がっている。また今夏には、AI分野がイギリス経済に待望の活性化をもたらしたとも聞く。人々は仕事や教育、そして私生活でも、AIをますます活用するよう推奨されている。
AI産業は、イギリスの経済成長を促進する戦略の重要な部分を占めている。元政府顧問の1人は私に、「次善策はない」と語った。では、AI開発の減速は、イギリスの先行き見通しを台無しにする可能性があるのだろうか？
AI業界は莫大な資金と天然資源を浪費しているにもかかわらず、今のところそれに見合うほどの収益を生み出していない。複数の報道によると、この技術を採用した多くの企業が、その成果に失望しているという。
経済学者の間では、現在の巨大企業でさえ全てが生き残るとは限らず、何らかの「均衡化」、つまりバブル崩壊が訪れるだろうという見方が広く共有されている。しかし、生き残った企業は、世界史上最も強力な巨大企業となる可能性があり、それにはそれなりの問題が伴うだろう。
オープンAIが株式公開への邁進（まいしん）をいったん止めたことは、同社が公共の安全に対する責任を自覚した、天啓を受けた瞬間のように受け止めることもできる。しかし同時に、自社製品全体が人命に関わる危険なものだと認識されている限り、株式を上場しても必要な利益を得られないと、企業として気づいたがゆえの行動とも考えられる。
英AI企業シンセシアのアレクサンダー・ヴォイカ氏は、「おそらく、現在私たちが直面している最大の課題の一つは、この技術がどのように進化していくかを誰も確実に予測できないことだ」と述べている。
「こうしたシステムが、ますます強力になっていることは分かっている。でも、それがどこでどのように使われるのかは分からないし、その潜在能力を最大限に引き出す方法も確立されていない。未解決の問題が数多く残る中で性急に規制を進めることへの私の唯一の懸念は、それがかえって逆効果になる可能性があることだ」
また、この技術革命全体を支えているのは、莫大な投資資金だという事実も否定できない。
「私はAIによる人類存亡のリスクは心配していない。私が心配しているのは、AIを開発している企業の強欲ぶりだ」と、サステナブルAIの創設者、サシャ・ルッチオーニは述べる。
著名なコンピューター科学者で、AIについて国連に助言してきたデイム・ウェンディ・ホール教授は、現在の危機はすべて、企業が責任ある行動を十分に取っていないことが原因だと指摘する。
ホール教授は現在の状況を、放牧した雄牛が逃げてもたらした被害を、農家が自分ではなく雄牛のせいにする状況に例える。
「もちろん牛のせいではない。農家の責任だ」
明らかに柵の強度が足りなかったのだ。そして、まさにそれが今、AIガードレールで起きていることだと、教授は指摘する。
しかし、こうした制約が厳しくなりすぎると、AIの終焉（しゅうえん）につながるのだろうか。
「AIを規制でがんじがらめにして消滅させる」ため、ルールによる取り締まりを求める、秘密裏の政治的な動きがあるのだと、そう考える人もいる。保守派シンクタンクキャピタル・リサーチ・センターで調査研究員を務めるパーカー・セイヤー氏は今週、そうした意見をソーシャルメディアに投稿した。
この投稿は800万回近く閲覧された。極端で根拠のない見解だが、規制が問題を解決するという考えに、誰しもが賛同しているわけではないことを示している。
現実がどうであれ、現在AI業界を襲っている嵐は、すでに最前線の企業に永久的な悪評を与えている可能性がある。
ホール教授いわく、「人類滅亡をもたらすと公言する企業に、あなたは投資しようと思うだろうか」。
（追加取材：トム・マカーサー記者）
