逆にすごい。大手コンサル作「AIのすごさを証明する報告書」がハルシネーションだらけ

概要

大手コンサルKPMGが公開したAI活用の成功事例をまとめた報告書に、実在しない架空の事例が多数含まれていたことが発覚し、AIによる情報の「汚染」と人間による確認の重要性が浮き彫りになりました。

詳細内容

世界的なコンサルティング会社KPMGが公開したAIレポートにおいて、スイス金融大手のUBSやロンドン交通局などの名が挙げられたAI活用事例が、事実無根であったことが判明しました。英フィナンシャル・タイムズの取材に対し、対象組織は「事実誤認」や「誤解を招く内容」と回答しており、報告書はすでに削除されています。この問題の背景には、AIが生成した誤情報を別のAIや人間が引用・再生産する「二次的ハルシネーション」の懸念があります。情報源（ソース）が明記されていても、そのソース自体がAIによって捏造されたものである可能性が高まっており、AIによる効率化の裏で、情報の真偽を確認する人間の負担が皮肉にも増大している現状を警鐘を鳴らしています。

元記事を読む他のサマリーを見る