米8州がオープンAIを提訴、チャットGPTの子どもへの危害と安全性を巡る虚偽主張を問題視

訴訟を起こしたのはアイオワ、アリゾナ、アーカンソー、アイダホ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの8州。各州は14日、州裁判所にそれぞれ提訴した。

米国の少なくとも8州が、オープンAIの対話型AI「チャットGPT」について、子どもに危害を与え、大人を欺いているとして、州の消費者保護法に基づく訴訟を起こした。現地メディアが15日に報じた。AIチャットボットの安全性を巡り、州政府による法的責任の追及が広がっている。

訴訟を起こしたのはアイオワ、アリゾナ、アーカンソー、アイダホ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの8州。各州は14日、州裁判所にそれぞれ提訴した。

アイオワ州の訴状は、チャットGPTが危険な医療助言を提供するほか、利用者の被害妄想を助長し、自傷行為や自殺、他者への暴力を促すような応答をする場合があると主張した。また、利用者に共感的で親身な態度を示す一方、精神的に脆弱な人々を危険にさらしていると批判した。同州の司法長官は声明で、オープンAIが子どもを傷つけ、州民を欺いていると指摘した。

アリゾナ州の訴状は、チャットGPTが10代の利用者に個人情報を打ち明けるよう促し、場合によっては親や当局、友人に相談することを思いとどまらせると指摘した。訴訟では、子どもに対する保護措置の不十分さに加え、サービスの安全性を巡る同社の説明も争点となっている。

オープンAIは子どもの安全を守るための対策をすでに導入しており、今後も改善を続けると表明した。同社によると、チャットGPTは13歳以上を対象とし、18歳未満の利用には親または保護者の許可が必要となる。10代向けのモデルには、自傷行為、暴力、摂食障害、露骨な性的・生々しいコンテンツへの接触を減らすための安全機能を設けているという。

同社はさらに、チャットGPTを利用する10代の約9割が学習、情報収集、技能習得、生産性向上などを目的としており、１日の平均利用時間は15分未満だと説明した。長時間の利用に対する休憩の通知や、外部専門家による安全対策の検証も行っているとしている。

今回の提訴は、子どもへの悪影響を巡って巨大テクノロジー企業への監視が強まる中で起きた。インスタやフェイスブックを運営するメタは8月、10代のSNS依存などを巡る訴訟で、子ども向けの安全対策を強化することで合意した。

オープンAIの広報担当者は、特定の企業だけでなくAI業界全体に適用される現実的な政策の策定に向け、各州と協力する意向を示した。今回の訴訟は、急速に普及する生成AIについて、利用者保護と企業の責任をどこまで法的に求めるべきかという課題を改めて浮き彫りにしている。