GoogleのAI検索を翻弄する「AIスパム」の脅威：捏造された回答を巡る攻防

概要

AIチャットボットやGoogleのAI検索が、個人ブログ1枚で容易に誤情報を拡散する脆弱性を突き、Googleが対策に乗り出す中での現状を報告する。

詳細内容

BBCの調査により、GoogleのAI Overviews（AIによる概要）やChatGPTなどのツールが、特定のウェブ記事を引用することで容易に誤情報を生成・拡散する脆弱性が明らかになりました。記者が自らを「ホットドッグ早食い世界王者」と偽るブログ記事を公開したところ、AIは即座にそれを事実として回答に取り入れました。この手法は個人のいたずらに留まらず、健康食品の宣伝や財務情報の操作など、深刻なトピックでも組織的に悪用されている実態があります。Googleはこれを受け、AI回答の操作を明示的に禁じるスパムポリシーの更新（「明確化」と主張）を行いましたが、攻撃側もYouTube動画を利用してAIに引用させるなど手法を巧妙化させており、いたちごっこが続いています。AIが「唯一の正解」を提示する現在の形式は、従来の検索結果よりも騙されやすいリスクがあり、ユーザーには慎重な判断が求められています。

元記事を読む他のサマリーを見る