概要
GoogleのAI Overviewsは約91%の精度を持つ一方、大規模な検索トラフィックゆえに膨大な誤情報拡散のリスクと、根拠（グラウンディング）の深刻な欠如が指摘されています。
詳細内容
ニューヨーク・タイムズ紙がAIスタートアップOumiと共同で、OpenAIのベンチマーク「SimpleQA」を用いてGoogleのAI Overviewsを調査した結果、深刻な課題が浮き彫りになりました。最新のGemini 3搭載後は精度が約91%まで向上したものの、依然として10%近い誤答が含まれています。年間5兆件を超えるGoogleの検索規模では、この10%という数字は1時間あたり数千万件の誤情報が生成される計算になり、人類史上類を見ない規模の誤情報拡散リスクを孕んでいると警鐘を鳴らしています。
特に懸念されるのは「グラウンディング（根拠付け）」の不備です。調査によれば、回答の50%以上で参照元ソースが内容を十分に裏付けておらず、驚くべきことにこの問題はGemini 2よりもGemini 3において悪化傾向にあります。さらに、単純なブログ記事によって特定の人物を偽の専門家として誤認識させるなど、AIの判断を操作しやすい脆弱性も確認されました。Google側は一部の結果に反論していますが、検索エンジンの根幹を揺るがす「AIによる回答」の信頼性と、Webエンジニアが今後直視すべきLLMのハルシネーション制御の難しさを改めて突きつける内容となっています。