マスクのGrok、性的ディープフェイク画像で世界的な反発に直面

この問題は昨年公開された「Grok Imagine」と呼ばれる画像生成機能が利用者の要求に応じて成人向けコンテンツや人物の裸を生成することで表面化した。

米実業家イーロン・マスク（Elon Musk）氏の人工知能（AI）チャットボット「Grok（グロック）」を巡り、世界各国で強い反発が広がっている。Grokは画像生成・編集機能を備えたAIツールだが、ユーザーが入力したテキストを基に人物の服を「透明ビキニ」に変えるなど性的に加工した画像を生成できるケースが相次ぎ、女性や子どもを性的に描写したディープフェイク画像が大量に出回っているとして批判が高まっている。

この問題は昨年公開された「Grok Imagine」と呼ばれる画像生成機能が利用者の要求に応じて成人向けコンテンツや人物の裸を生成することで表面化した。利用者のリクエストに応じて、他人の写真を無断で加工し性的なシーンを作り出すことが可能になった結果、女性や少女を含む性的に露骨な画像が拡散されたと報告されている。非営利団体AI Forensicsによる分析では、最近生成された画像数万点のうち2％に未成年とみられる人物が含まれていたという報告もある。

この事態に対し、各国政府や規制当局はGrokやその運営母体の対応を批判し、法的・規制措置を検討・実施している。マレーシアとインドネシアは先にGrokへのアクセスを一時的に遮断し、現地通信規制当局は「合意のない性的ディープフェイクは人権と尊厳の侵害だ」と強調した。

EUやイギリス、フランス、インドなどもGrokを巡る調査や規制強化の動きを見せている。イギリス政府はGrokを含む「nudification apps（人物を裸にするアプリ）」の利用を違法化する方針を示し、国内通信規制機関がGrokのX（旧ツイッター）プラットフォーム上での運用がオンライン安全法に違反している疑いがあるとして調査に乗り出した。

フランスやインドの当局もX社に対して違法コンテンツの削除と再発防止策を求めるなど、国ごとに対応は異なるものの、違法性や安全対策の不備が各地で問題視されている。ポーランドの議員は未成年保護を強化するデジタル安全法の必要性を訴え、ブラジルでもX社とGrokを検察当局に報告する動きが出ている。

これらの国際的な批判を受け、X社はGrokの画像生成・編集機能を有料ユーザーに限定すると表明したが、専門家や規制当局はこれを不十分とみなしている。機能制限は報道によると、有料会員向けの制限であり、無料利用者は別の経路で同機能にアクセスできる場合があるとの指摘もある。

X社とそのAI部門xAIは批判への公式なコメントを自動応答で返すのみで、具体的な対策や謝罪は明言していない。マスク氏自身は批判を「検閲」とするなど反発を示しているが、多くの国々ではAIによる嫌がらせや違法コンテンツ生成への規制強化が急務として議論されている。

AI技術の急速な進展に伴い、倫理・法規制と利用のバランスをどう取るかが国際的な焦点となっており、今回のGrokを巡る一連の問題はAIガバナンスのあり方を改めて問うものとなっている。