米アンソロピック、「一般向けには強力過ぎる」AIツールを一般公開
画像提供, Getty Images
カリ・ヘイズ・テクノロジー記者
米アンソロピックは9日、あまりに強力なため公開するべきではないとしていた人工知能（AI）ツールを一般公開した。
公開されたのは、同社のAIプログラム「クロード・ミュトス」の一般向けバージョンである「クロード・フェイブル5」。「クロード・ミュトス」については、4月にプレビューと試験のために限定公開された際、テクノロジーや金融、政府などのトップから深刻な懸念の声が上がっていた。
あまりに強力なため、このツールが金融に安全保障上のリスクをもたらすかもしれないとの懸念が出ている一方、この騒動のいくらかはマーケティング上の演出に過ぎないのではという疑念も出ている。
アンソロピックは今月9日、フェイブルは安全対策およびユーザー制限を設けた上で公開すると述べたが、「これほどの能力を持つモデルを公開することにはリスクが伴う」とも述べた。
また、「フェイブルの能力は、我々がこれまで一般公開してきたいかなるモデルも上回る」と付け加えた。
同社は、ミュトスの初プレビューを少数のグループに対してのみ行ったことについて、このツールはあまりに知能が高く、コンピューターシステムを悪用またはハッキングできる能力があり、危険になり得るためだと説明していた。
カナダのフランソワ＝フィリップ・シャンパーニュ財務相は4月、BBCに対し、ミュトスに注目が集まるのは「未知の未知」であることが一因であり、当然のことだと述べた。
一方でアメリカでは、自社AIツールの政府利用を認めないアンソロピックの姿勢に対し、国防総省が起こした訴訟が継続するなか、米政府機関もミュトスの試験を行ってきた。
アンソロピックは近く上場すると見込まれており、非公開での評価額は1兆ドル（約160兆円）に迫っている。より優れた広範なAI能力を一貫して示すことが、投資家に対する同社の価値を裏付けている。
同社はまた、これまでミュトスのプレビューのためのアクセスを付与されていた約150の団体が、「クロード・ミュトス5」へのアクセスを得ることになると発表した。このバージョンでは、各組織の具体的な利用方法に応じて、サイバーセキュリティーや生物学に関する制限を設けていないという。
これまでにミュトスを使用してきた団体や企業は、自らのシステムにおいて合わせて1万件以上の重大なセキュリティー上の欠陥を発見したと、アンソロピックに報告している。
アンソロピックは、新たなアクセスは「少数のサイバー攻撃対策事業者やインフラ提供者」に限定されるとしているが、近くその範囲を拡大する見通しだ。
フェイブルとミュトスは本質的には同一のモデルだが、安全対策やアクセス水準が異なっている。また、従来のクロード・モデルよりも長時間にわたり、人間から与えられた指示に基づいて「無人」で動作することが可能だと、アンソロピックは付け加えた。
アンソロピックの共同創業者ジャック・クラーク氏は、4日にBBC番組「ニューズナイト」に出演した際、AIシステムは今後ますます強力になり、社会に広く影響を及ぼすようになると主張。そのため、政策を通じて、人間がシステムの主導権を握り続ける必要があると述べた。
「アクセルから足を外してブレーキを踏むことができるという、その選択肢が必要だ」とクラーク氏は指摘。「今のAI業界にはアクセルペダルはあるが、ブレーキペダルがないようなものだ」と述べた。
