インドネシア政府、性的画像リスクで「Grok」へのアクセス遮断

グロックへのアクセスを全土で遮断したのは世界で初めてであり、AI技術とデジタル規制を巡る新たな局面を浮かび上がらせている。

インドネシア政府は10日、米実業家イーロン・マスク（Elon Musk）氏の人工知能（AI）チャットボット「Grok（グロック）」へのアクセスを一時的に遮断したと発表した。理由として、グロックによって生成される性的化された画像（ディープフェイク）が国内で拡散するリスクを重大な問題と判断したことを挙げた。グロックへのアクセスを全土で遮断したのは世界で初めてであり、AI技術とデジタル規制を巡る新たな局面を浮かび上がらせている。

インドネシア政府は声明で、同意のない性的なディープフェイクの作成と共有は「人権や尊厳、国民のデジタル空間における安全に対する深刻な侵害だ」と述べた。また、こうしたAI生成コンテンツが女性や子どもを含む市民に悪影響を与えうると指摘し、政府として公共の安全確保を優先する姿勢を強調した。

遮断措置の対象となったグロックはマスク氏が設立したAI企業「xAI（エックスエーアイ）」が開発し、X（旧ツイッター）プラットフォーム内外で利用されている対話型生成AIだ。グロックはテキストの質問応答に加えて、ユーザーがアップデートした画像を編集したり、新たな画像を生成したりする機能を持つが、その過程で実在の人物の写真を無断で性的に加工・生成する不正利用が横行しているとして、各国で批判が高まっていた。

xAIはこの事態を受けて1月8日、グロックの画像生成・編集機能を「有料加入者限定」に制限する措置を発表。安全機能の改善に努めると表明していた。しかし、この対応はユーザーによる悪用を抑えるには不十分だとの指摘もあり、インドネシア政府は機能制限後もリスクが残ると判断し、今回の遮断に踏み切った。

政府はXやxAIの関係者を招致し、現状の機能や違法コンテンツの防止策について説明を求めるための公式協議を開催している。政府側はデジタルプラットフォームが国内法に準拠し、違法な画像や不正利用を防止する技術的な対策を実装することを強く求めている。

グロック側の対応として、マスク氏はX上で「グロックを使って違法なコンテンツを生成した者には、実際に違法なコンテンツを投稿した場合と同等の法的責任が課される」と警告した。しかし、具体的な改善策については明言していない。

インドネシアは世界最大のイスラム教徒を抱える国であり、わいせつなコンテンツに対して厳しい取り締まりを従来から実施している。国内法ではオンラインでのわいせつなコンテンツの共有が禁止され、政府は今回の措置をオンライン安全確保と社会倫理の維持に必要な対応だと位置づけている。

今回のグロック騒動はAIによるディープフェイクや不正生成コンテンツの社会的影響に対する各国の規制強化の一環として捉えられている。欧州やインドなどでもこの問題に対して規制当局が調査を進めており、生成AIの安全性や倫理的運用を巡る国際的な議論が一段と高まる可能性がある。政府間の協議やX側の技術的改善が進展するかどうかが今後の焦点となる。