マスク氏のAI「Grok」にビキニ写真生成された英下院議員が提訴 スターマー首相も訴えを支持
米富豪イーロン・マスク氏の人工知能（AI）企業「xAI」の生成AIチャットボット「Grok」が、実在の人物の写真を編集して露出度の高い服装を身に着けているように見せていた問題で、イギリスのジェス・アサト下院議員（労働党）は3日、Grokが自分の「不快な」画像を生成したとして、xAI社を高等法院に提訴した。キア・スターマー首相は議員の行動を「100％支持する」と述べた。
イングランド東部サフォーク州ロウストフト選出のアサト議員は、Grokが自分のビキニ姿の写真を生成したことで、侵害されたと感じているとして提訴した。損害賠償を請求すると共に、テクノロジー各社はAIシステムの設計について法的責任を負うという判例を作りたいとしている。
BBCはxAIにコメントを求めている。
Grokが実在の人物について虚偽の性的な画像を生成する問題については今年1月、運営会社のXが世論の反発を受けて「私たちは、Grokアカウントがビキニなどの露出の多い服を着た実在の人物の画像を編集できないようにする技術的な対策を実施した」とする声明を発表した。
アサト議員は当時、Grokが自分の性的な偽画像を作ったと下院でも発言。xAIを当時批判したところ、オンラインで嫌がらせの標的にされたという。
イギリスではその後、成人のディープフェイク画像を無断で作成したり、作成を依頼したりすることは違法になった。ディープフェイクとは、ある人物の顔を別人の顔に置き換えるなど、AIを使ってデジタル加工された画像や映像のこと。
アサト議員の今回の提訴を受けてスターマー首相は、「数カ月前にGrokを取り締まったことを、本当にうれしく思っている。不愉快極まりない画像を作るプラットフォームのプロバイダーと戦うというのは（中略）まさに私たちが取り組むべき戦いだし、既に勝った」と述べ、さらにアサト議員がxAIを提訴したことは「正しい」と評価。
「彼女は代議士だし、その行動を自分は100％支持する」と強調した。
画像提供, Getty Images
アサト議員は、「Grokが危害を作り出している間に生じた危害」について、賠償を求めると説明。また、提訴したことが報道されて以来、「ビキニ姿の私の画像をあらためて、たくさん受け取った」と話した。
同議員は4日朝、BBC番組「ブレックファスト」に対して、「人の画像をどう使うかについて、もはや社会的なルールなどなくなってしまった」と言い、「ある程度の統制感を取り戻すには、法律が活用できなくてはならない」とも話した。
アサト議員はまた、自分が起こしたのは、Grokを作り出して運営するような「ハイテク企業に説明責任を負わせる」ための提訴だと説明した。「私は最悪の被害を受けたわけではないが、それでも自分の人間性を奪われたように感じた。おとしめられたと感じた。私の同意を求めることもしないまま、私は同意なしに服を脱がされてしまった」。
「話をした多くの被害者が、自分はおとしめられたと感じていた。デジタルな性的暴行の一種だと感じていた」とも同議員は語り、Grokに「虐待的または屈辱的な方法」で画像を生成された他の被害者にも、声を上げるよう呼びかけた。
「何の責任も負わずにテクノロジー企業が行動するなどできないのだと、私たちはそのことを示したい。人の画像が本人の同意なくAIに使われたり操作されたりして、性的に加工されたりしないよう、各社は自社製品に安全対策を組み込む必要がある」
画像提供, Reuters
「製造時に欠陥品だったかもしれない他の製品、たとえば自動車について考えると、たとえ車がリコールされ、欠陥が修正され、それ以上の被害は出なくても、製造責任があることに変わりはない」と、アサト議員は続けた。
「その自動車がそもそも欠陥のある状態で製造されたことが問題で、Grokはそもそも、そうしたことが起こらないようにするための安全対策もガードレールもない状態で製造されたことが問題だ」
「それが私の訴訟の核心だと思う。つまり、欠陥がどんなに早く修理されたかが大事なのではない。一たび危害を与えたなら、危害を与えたという事実は変わらない」
同議員が高等法院に提訴した訴訟は、データ保護法に基づくもの。加えて、個人情報の不法な悪用も訴えの根拠にしている。
アサト議員の代理を務めるAWO法律事務所のラヴィ・ナイク弁護士は、「過ちがあった場合、法は救済策を提供しなくてはならない。それは他のものと同様、人工知能にも当てはまる」と説明した。
「誰だろうとこのような虐待を受けるべきではないし、このような画像を削除させるために弁護士に相談することもあってはならない」
さらに、「このようなコンテンツが存在したのは、xAiのエンジニアがそういう設計を選択したからだ」とナイク弁護士は指摘。
「これは、AI システムの設計責任を問えるのかの判断を司法に求める訴訟で、そういう訴えはまだ少ない。安全性の確保を後回しすることは認められないと、私たちは明確にしようとしている」とした。
マスク氏が所有するソーシャルメディア「X」は以前、自社プラットフォーム上の違法コンテンツについて、措置を講じると述べていた。
マスク氏はまた、「Grokを使って違法なコンテンツを作る人は誰でも、違法なコンテンツをアップロードした場合と同じ結果になる」とも述べている。
