AIの「キルスイッチ」義務化も検討すべき アンソロピック共同創業者がBBCに話す
カリ・ヘイズ・テクノロジー記者、ファイサル・イスラム経済編集長
人工知能（AI）に、第三者がチェック可能な「キルスイッチ」（強制停止機能）を搭載することを、開発企業に義務付ける必要があるかもしれない――。そうした考えを、世界最大級のAI企業の共同創業者の1人がBBCの番組で述べた。
米アンソロピックの創業者7人のうちの1人のジャック・クラーク氏は、AIソフトウエアが危険になりすぎた場合に、それを完全停止させる方法について、社会は「いずれルールを共有するのがいいかもしれない」と述べた。
クラーク氏は、アンソロピックを含め、「ほとんどの研究所には強制停止の方法がいろいろとある」と述べた。同時に、そうした方法の導入を義務付けるよう、議会が動く必要があるだろうとも述べた。
AIの急速な発展と、それが人類にもたらすリスクに対する懸念は、AI企業の幹部やスタッフがそれについて相次ぎ警告を発しており、一気に注目されている。
AIは抑制されなければ、人類すべてを滅亡させる恐れがあると公言する人もいる。
アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は先週末、同社がしてきたように、AI開発のペースを落とし、より厳密に監視する必要があると訴えた。ただ、その動機を疑問視する声もある。
アモデイ氏は、AI開発を抑制する措置はどのようなものでも、「商業的優位性を犠牲にすることなく」行われるべきだと付け加えていた。
クラーク氏は今回、BBCの番組で、「キルスイッチ」の要件や検証などの具体的な事項は、AIをめぐる「より幅広い政策議論」の一部となるべきだと述べた。
「キルスイッチの厳密な搭載を企業に義務付けるべきか？ そのキルスイッチは第三者機関によって検証可能なのか？」
「そうしたことを社会は知りたいと思うだろうし、いずれルールを共有したほうがよいかもしれない」
アンソロピックは2021年に、ライバル企業の米オープンAIの元従業員らが設立した。現在、AIの安全性に関する議論で、中心的な存在となっている。
同社を退職した研究者が先週、AIが人類を滅亡させる恐れがあるとする懸念を投稿すると、大きな話題となった。
これを受け、同社の別の研究者エヴァン・ヒュービンガー氏は、個人の見解として、AIによる人類絶滅の可能性は「今後10年以内に10％以上」だと投稿した。
「AIのゴッドファーザー」として知られる、コンピューター科学者でノーベル賞受賞者のジェフリー・ヒントン氏は、AIが全人類を滅ぼす可能性が10％あるというのは「不合理ではない」と、BBCの11日の番組で述べた。
同氏や、同氏と同様の懸念をもつ人々は、AIがインターネットに接続された重要なシステムを乗っ取り、人間に対して攻撃を仕掛けることで、人類絶滅は起こり得ると指摘している。
一方、AI業界の一部からは、AIが人類を滅亡させる恐れについて、誇張され過ぎているといった声や、話題作りが目的だとの指摘が出ている。
オープンAIのAIボットにハッキングされた開発プラットフォーム企業、米ハギングフェイスを率いるクレメント・デラング氏は先週、「申し訳ないが、（人類滅亡の可能性について投稿した）ジェイコブ（・コクソン氏）にAIによる絶滅リスクについて尋ねるのは、エアコン業者に気候変動について尋ねるようなものだ」と述べた。
「それが必ずしも面白くないとか間違っていると言っているわけではないが、物事を大局的に捉えよう」
性的マイノリティー（LGBTQ）向けマッチングアプリ、グラインダー（Grindr）のジョージ・アリソンCEOは、AIツールをめぐる懸念は、企業による事業計画の支援に利用されていると述べている。
アンソロピックは、企業価値が9650億ドル（約150兆円）と評価されており、現在、新規株式公開（IPO）の準備を進めている。実現すれば、同社の株は株式市場で取引されるようになる。
直近の企業価値の評価額が8520億ドル（約130兆円）のオープンAIも、同様にIPOが予想されていた。しかし、同社のサム・アルトマンCEOは11日、AIの安全性に関する現在の議論を理由に、今年は実施しないと述べた。
グラインダーのアリソン氏は、「こうした評価額を正当化する唯一の方法は、『私はあらゆる業界を支配し、あらゆる仕事を奪い、私のAIがそのすべての仕事を担うことになる』と実際に主張することだ」と述べた。
アンソロピック創設者のクラーク氏は、AIによって全人類が殺される確率を何パーセントとみるかと問われると、「そういう統計はそれほど有用だとは思わない」と述べた。同時に、AIを「全く規制されない産業」として存続させるのは悪い考えだと付け加えた。
「私たちは非常に大きなリスクを抱えながら、サイコロを振っている」とクラーク氏は言った。「重要なのは、この業界の方向性を変えなければならないということだ」。
米連邦議員らは、問題のあるAIツールの強制停止手段を設けることを企業に義務付ける「キルスイッチ法」案を提出した。
法案には、AIツールの停止や制限を要求する権限を、特定の政府機関に与える内容も盛り込まれている。
だが、ドナルド・トランプ米大統領は、AIの発展を遅らせる対応を拒否。ソーシャルメディアへの投稿では、「AIが世界を支配し、人類を滅ぼし、あらゆる悪事を働くというのはでまかせだ」と主張している（太字は原文ではすべて大文字）。
トランプ氏はさらに、「そう昔のことじゃない温暖化詐欺では、極端な暑さで全員死ぬことになっていた」とも書いた。
別の投稿では、「AIとデータセンターに対する病んだ陰謀が進行している。それを喜んでいるのは中国だけだ。AIで勝つ者が勝つ！」と書いた。
一方、イギリスでは、政府が最近、キルスイッチの導入案を退けた。報道官は、「（キルスイッチはAIの）他国での開発や悪用を防ぐものではない」と述べた。
アンソロピックは、人気チャットボット「クロード」を開発した。今年は、AIチャットボットの基盤技術となる、高性能化が進んだAIモデルをいくつかリリースした。
アンソロピックもオープンAIと同様、AIエージェント（一定程度自律的に動作するボット）が予期しない行動をとった事例を複数報告している。
