Meta、AI生成の児童性的虐待画像を含む広告を掲載

概要

Metaの広告システムにおいて、AIで生成された児童性的虐待画像を含む50件以上の広告が、審査を潜り抜けてFacebookやInstagramなどで配信されていたことが判明した。

詳細内容

調査団体「Tech Transparency Project（TTP）」の報告により、Metaの広告プラットフォームでAI生成の児童性的虐待素材（CSAM）を含む広告が50件以上掲載されていたことが明らかになった。これらの広告はFacebook・Instagram・Messenger・Threadsで配信され、一部は米国や欧州で数千人のユーザーにリーチしていた。広告は児童の画像を性的な動画にモーフィングさせるなど、衣服を消す「nudify」アプリを宣伝する極めて悪質な内容で、Metaは全広告を自動ツールで審査しているとするものの、多くが数日から数ヶ月にわたり検出されないまま掲載され続けた。投稿元の一部は、かつてMetaの広告代理店だった中国企業に関連するアカウントだったという。WIREDの指摘を受けてMetaは該当広告を削除し、AppleもリンクされていたアプリをApp Storeから削除したが、削除済みのものと同一の広告が再び掲載される事例も確認されており、専門家はMetaの審査体制の脆弱性と、AI生成の性犯罪コンテンツに対する取り締まりの不十分さを厳しく批判している。

元記事を読む他のサマリーを見る