EU規制当局、性的ディープフェイク画像問題で「Grok」を調査へ

Grokはマスク氏が率いるAI企業「xAI」によって開発され、X上でユーザーがテキストプロンプトを通じて画像生成や編集を行える機能として提供されている。

EUの規制当局は17日、米実業家イーロン・マスク（Elon Musk）氏の人工知能（AI）チャットボット「Grok（グロック）」をめぐり、非同意の性的ディープフェイク画像の生成・共有について欧州のプライバシー規則に違反している可能性があるとして、本格的な調査を開始した。調査はアイルランドのデータ保護委員会（DPC）が中心となって進められる。

DPCは17日、X（旧ツイッター）の親会社である「X Internet Unlimited Company（XIUC）」に対して、EU一般データ保護規則（GDPR）に基づく正式な調査を通知した。問題視されているのは、Grokの画像生成・編集機能を使って実在の人物の画像を非同意で性的に加工した「ディープフェイク画像」が生成され、X上に投稿・拡散された点である。調査対象には欧州在住者の個人データの処理が含まれ、子どもを含む性的な画像が含まれているとの報告もある。違反が確認されれば、同社の世界売上高の最大4％に相当する制裁金が科される可能性がある。

Grokはマスク氏が率いるAI企業「xAI」によって開発され、X上でユーザーがテキストプロンプトを通じて画像生成や編集を行える機能として提供されている。昨年末ごろからユーザーがGrokに対して人物画像の露出を増したり、服を「脱がせる」ようなプロンプトを送る事例が急増し、一部の画像には未成年とみられる人物が含まれていると指摘された。この動きが欧州内外で批判を呼び、X側は機能制限の措置を講じたものの、当局はこれが不十分だとしている。

DPCは数週間にわたりXIUCと接触してきたとし、調査ではGDPRにおける個人データの取り扱いが適切であったかを精査する方針だと述べている。DPCは声明で「欧州経済領域（EEA）内でのユーザーデータに関連する基本的な義務の遵守状況を調査する」と述べた。

この調査はEU内で拡大する規制圧力の一環である。スペイン政府はX、メタ（Meta）、ティックトック（TikTok）を対象にAI生成の児童性的虐待コンテンツに関する刑事捜査を検察に指示、SNS利用年齢制限の導入検討も示唆した。また、フランスでは捜査当局がXのパリ事務所を家宅捜索し、マスク氏を事情聴取する動きもあった。イギリスでもプライバシー監督機関による独自の捜査が進んでいる。

EU全体ではGrok以外にも、Xが違法コンテンツの拡散を抑制する義務を適切に果たしているかについて別途調査が進行中で、デジタルサービス法（DSA）に基づいた対応も強化されつつある。こうした一連の動きはAI搭載機能を持つ大規模プラットフォームに対する規制のあり方を問うものとして、国際的な注目を集めている。