インドネシアが「Grok」の遮断解除、性的ディープフェイク問題

インドネシア政府は声明で、Grokを運営するXとその関連企業xAIが同国の法令を遵守することを文書で約束したため、条件付きでサービス再開の手続きを進めると説明した。

インドネシア政府は1日、米実業家イーロン・マスク（Elon Musk）氏の人工知能（AI）チャットボット「Grok（グロック）」の利用禁止措置を解除し、サービス再開を認めたと発表した。禁止は先月中旬に性を強調したディープフェイク画像のリスクを理由に課されていたもので、世界で初めてGrokへのアクセスを遮断したが、一定の条件付きで復帰が認められる形となった。

インドネシア政府は声明で、Grokを運営するXとその関連企業xAIが同国の法令を遵守することを文書で約束したため、条件付きでサービス再開の手続きを進めると説明した。政府は引き続き厳格な監視を行い、違法または不適切なコンテンツが発生した場合は再びアクセスを制限する可能性があるとしている。

Grokはマスク氏が率いるxAIが提供する生成AIチャットボットで、多様な質問応答や画像生成機能を備える。昨年末から今年にかけて、ユーザーがこのAIを利用して、合意のない形で人物の性的なディープフェイク画像を作成・公開する事例が複数報告されていた。特に女性や未成年者を対象とする性的描写を含むコンテンツが問題視され、当局は「非同意の性的ディープフェイクやポルノ的コンテンツの流布が市民の尊厳と安全を重大に侵害する」として一時的な遮断を決定していた。

禁止措置は約3週間続いたが、政府はXが法律順守の強化と不正利用防止策の具体的な計画を提出したことを受け、解除を決めた。政府は「今回の再開は条件付きであり、監視は継続される」と述べ、AIサービスの乱用に対する抑止と規制の必要性を強調した。

今回のインドネシアの動きは生成AIコンテンツに対する世界的な規制強化の動きと軌を一にしている。欧州やアジアの規制当局もGrokの生成機能について調査や改善要求を進めており、特に児童保護や人権・プライバシーの観点から慎重な対応を求める声が強まっている。

昨年、Grokは一部機能を有料会員に限定するなど不正利用を抑制する措置を講じたが、十分な安全策と見なされなかったために複数国で批判が巻き起こっていた。インド、フランス、マレーシアなどでは関連当局が独自調査を開始し、企業に対して透明性や法令遵守を求める動きが広がっている。

インドネシア政府は今回の条件付き再開後もGrokの運用に関し違反が確認されれば即時の対応を取る構えを示している。技術革新と表現の自由を尊重しつつ、社会的責任や法令遵守を求める規制のあり方が今後の焦点になる。