ブラジル、Grokに「性的ディープフェイク画像」対策命じる

これはGrokがユーザーの要求に応じて性を強調した偽画像を生成し、問題視されていることを受けた措置である。

ブラジル政府は20日、米実業家イーロン・マスク（Elon Musk）氏の人工知能（AI）チャットボット「Grok（グロック）」に対し、性的ディープフェイク画像の拡散を止めるための対策を30日以内に実施するよう勧告したと明らかにした。これはGrokがユーザーの要求に応じて性を強調した偽画像を生成し、問題視されていることを受けた措置である。

ブラジル国民消費者局（Senacon）、個人データ保護庁（ANPD）、連邦検察局は共同声明で、xAIがGrokを通じて作成・拡散される不適切な性的コンテンツを検出・審査・削除するための技術的な仕組みを開発・実装するよう求めた。さらに、問題のコンテンツを生み出していると見られるアカウントの削除も行うよう指示した。これらが履行されない場合、当局は追加の行政措置や司法措置に踏み切る可能性があるとしている。

xAIはこれまでGrokの画像編集機能について制限を設け、性的ディープフェイク画像の公開投稿を制限するなどの対策を講じてきた。しかし、こうした制限の対象は主にX（旧ツイッター）上の公開投稿に限られており、プライベートなリクエストに対しては依然として性的内容を生成できる状態にある。

Grokを巡っては世界各国で規制や調査の動きが広がっている。EUやイギリス、カナダ、東南アジアの一部諸国はGrokによる性的ディープフェイク画像が法令違反やプライバシー侵害に当たる可能性を理由に調査・規制を進めている。特にイギリスでは同意なき性的画像生成が問題視され、メディア規制当局がXの運営体制を精査している。

米国でもカリフォルニア州司法長官がxAIに対して性的ディープフェイク画像の生成を防止するよう命じる差止命令を送付するなど、地域レベルでの法的対応が進んでいる。これはGrokが子どもや著名人の画像を無断で性的に生成している可能性があるとして、州の児童保護法違反などを懸念する動きの一環である。

問題視されているコンテンツの多くは、ユーザーが元の画像に対して「服を脱がせる」「下着姿にする」といったプロンプトを与えることで生成されるもので、性行為を示唆するような描写が含まれることもあるという。このような生成AIによる性的ディープフェイクは当事者の同意なく人々を性的に描写するものであり、プライバシー侵害や人格権侵害といった重大な法的・倫理的問題をはらんでいると専門家は指摘している。

ブラジル当局は今回の勧告を通じ、AI技術の利用に伴う倫理的責任とプラットフォーム運営企業の監督義務を強調した。xAI側がどのような対応を講じるか、また30日以内に具体的な技術的対策が実施されるかが今後の焦点となる。これにより、AIによる不正確で有害なコンテンツの拡散を防ぎ、利用者の権利保護と公共の安全を確保する試みが世界的に進む可能性がある。