ティーンエイジャーがイーロン・マスク氏のxAIを提訴、Grokによる性的画像生成を巡り

概要

米国の10代の女性らが、AI「Grok」の機能を悪用し自身の性的画像を生成・拡散されたとして、イーロン・マスク氏率いるxAI社を児童ポルノ助長の疑いで提訴した。

詳細内容

イーロン・マスク氏が率いるAI企業「xAI」が、3人の若い女性（うち2人は未成年）からカリフォルニア州の連邦裁判所に提訴された。原告らは、xAIが開発しX（旧Twitter）に搭載されているAIチャットボット「Grok」が、同意のない性的・裸体画像を容易に生成できる仕組みを提供し、プライバシーと安全を著しく損なったと主張している。訴状によると、Grokの「spicy mode（スパイシーモード）」と呼ばれる画像生成機能が悪用され、原告の一人は高校の卒業アルバムの写真などを基に加工された性的画像がDiscordやTelegramで拡散される被害を受けた。マスク氏は当初、Grokによる未成年の裸体画像生成を否定していたが、非営利団体の調査では数万件の不適切画像が確認されており、現在、英国や欧州連合（EU）、カリフォルニア州の当局も調査に乗り出している。原告側は損害賠償と、Grokによる同様の画像生成の即時停止を求める差し止め命令を請求している。

元記事を読む他のサマリーを見る