インドネシアとマレーシアが「Grok」を遮断した経緯、性的ディープフェイク画像問題

両国政府はグロックが性的に露骨な画像、特に本人の同意なしに生成した性的コンテンツを作成するために悪用されているとして、安全対策が不十分だと批判している。

マレーシアとインドネシアは1月10日から11日にかけて、米実業家イーロン・マスク（Elon Musk）氏の人工知能（AI）チャットボット「Grok（グロック）」へのアクセスを遮断した。両国政府はグロックが性的に露骨な画像、特に本人の同意なしに生成した性的コンテンツを作成するために悪用されているとして、安全対策が不十分だと批判している。こうした対応はグロックに対する各国の懸念が高まる中で最初の具体的な規制措置となった。

グロックはSNSプラットフォーム「X（旧ツイッター）」と連携し、ユーザーの問い合わせにAIで応答する機能を持つほか、画像生成機能「Grok Imagine」も備える。昨年夏に追加されたこの機能には、成人向けコンテンツを生成できる「スパイシーモード」があり、利用者が実在の人物を性的な姿で描写する画像を作成するケースが問題視されてきた。こうした画像には女性や子どもを含むものもあり、プライバシー侵害や人権侵害の可能性が指摘されている。

インドネシアは世界で初めてグロックのアクセスを一時的に遮断。政府は同意のない性的なディープフェイクを生成する行為は人権と尊厳、デジタル安全を深刻に侵害するものだと述べ、女性や子ども、国民全体を守るための措置だと強調した。初期の調査では、グロックには実在する市民の写真を基にポルノ画像を生成・拡散することを防ぐ有効な対策が欠けていると結論付けられたという。

これに続いてマレーシア当局もグロックが繰り返し性的に露骨な画像の生成に悪用されているとして、利用制限を発表した。当局は同社とxAIに対して法令順守や技術的な安全策の強化を求める通知を出していたが、主に利用者からの通報に頼る対応にとどまり、根本的な安全対策が不十分だと判断したとしている。制限は暫定的措置であり、効果的な保護策が実装されるまで継続される見込みだと説明した。

両国の措置は、生成AIツールが現実世界の人物の画像や情報を基にした性的・露骨なコンテンツを比較的容易に作成できるという懸念を反映している。特に非同意の性的ディープフェイク画像はプライバシー権や人格権を侵害し、心理的・社会的なダメージをもたらす可能性があると専門家は指摘している。

一方で、xAI側はグロックに関する批判の高まりを受けて、画像生成や編集機能を有料サブスクリプション利用者に限定する措置を講じている。しかし欧米やアジアの複数の国・地域では、これだけでは不十分だとの見方が広がっている。イギリス政府はグロックが児童性的虐待画像や違法コンテンツを生成する可能性があるとして正式な調査を開始し、EUやフランス、インドでも関連規制や審査の検討が進んでいる。

こうした動きは、AI技術がもたらす利便性とリスクのバランスについて、各国政府が法的枠組みやコンテンツ管理のあり方を再考する契機となっている。生成AIによる画像生成の規制を巡る国際的な議論は今後さらに激化する可能性がある。