Grok、人物画像の不適切な編集機能を制限、性的ディープフェイク対策

GrokはX上で利用できるAIチャットボットで、画像生成と編集機能を持ち、ユーザーが指示すると写真を加工・生成できる。

米国のSNSプラットフォームX（旧ツイッター）は14日、同社が提供する人工知能（AI）チャットボット「Grok（グロック）」による人物画像の不適切な編集機能を制限すると発表した。これまでGrokは投稿された人物写真から衣服を取り除いたり、性的に強調した画像を生成することが可能であったが、国内外で強い批判が巻き起こったためだ。

GrokはX上で利用できるAIチャットボットで、画像生成と編集機能を持ち、ユーザーが指示すると写真を加工・生成できる。この機能を悪用し、実在する人物をビキニや下着姿に変えたり、裸の状態にしたりするディープフェイク画像が多数作成され、特に女性や子どもを含むコンテンツが拡散していたことが社会問題となっていた。

Xは声明で、これらの生成を防ぐために「画像内の実在する人物をビキニや下着など露出度の高い姿に編集する機能を、すべてのユーザーに対して禁止する技術的措置を実装した」と説明した。この制限は有料会員を含むすべての利用者に適用されるという。また、特定の法域ではビキニや下着などの画像生成そのものをブロックする方針も示した。

さらに、Xは安全対策の一環として、Grokの画像生成・編集機能を有料会員限定に変更した。プラットフォーム上での利用者情報の管理を強化し、不正利用者を特定しやすくする狙いがあるとされるが、専門家からは「問題の根本的な解決にはなっていない」と指摘する声も上がっている。

この動きは米カリフォルニア州が州司法長官による調査を開始したことや、イギリスの通信規制当局がXを対象に調査を進めていることを受けたものである。イギリスでは画像を無断で性的に加工する行為を「ショッキングで恥ずべきもの」として首相らの強い非難を受け、同国の法律に違反する可能性があるとして厳しい対応が求められていた。

一部の国や地域ではGrokを全面的にブロックする動きも出ている。マレーシアやインドネシアではアクセスが停止され、EUの執行機関である欧州委員会も域内の市民を保護するための措置について検討していると明らかにしていた。

批判の中心には、AIによる非同意の画像編集が個人の尊厳や安全を損なうとの懸念がある。実際、SNS上には「自分に似せた画像が無断で性的に加工され、公開されてしまった」という被害を訴える声が相次いでおり、プライバシー侵害や精神的苦痛を訴えるケースも出ている。

一方で、Xのイーロン・マスク（Elon Musk）氏は、Grokは違法な画像生成を拒否するよう設計され、それが自主的に不正行為を行うことはないと強調している。しかし専門家は、AIツールの安全性確保にはさらなる技術的・規制上の改善が必要だとしている。

今回の措置はAIツールが個人の権利を侵害するリスクへの対応として注目されており、他のプラットフォームにも同様の安全対策導入の動きが波及する可能性がある。各国の規制当局もAI生成コンテンツに対する法整備を進めており、今後の展開が注目される。