概要
https://gigazine.net/news/20251008-destructiv-ai/#google_vignette
詳細内容
## AIが生成した誤情報を別のAIが情報源として誤報をまき散らす悪循環がインターネットと創作を破壊している
https://gigazine.net/news/20251008-destructiv-ai/#google_vignette
AIが生成した低品質な誤情報が別のAIに再利用され悪循環を生み出し、インターネットやコンテンツの信頼性を不可逆的に破壊する可能性が警告されています。
**Content Type**: 🎭 AI Hype
**Scores**: Signal:4/5 | Depth:3/5 | Unique:4/5 | Practical:3/5 | Anti-Hype:5/5
**Main Journal**: 82/100 | **Annex Potential**: 84/100 | **Overall**: 76/100
**Topics**: [[AI生成コンテンツの信頼性, ハルシネーション, 情報源の検証, 検索エンジンの品質低下, コンテンツ生成ワークフロー]]
教育系YouTubeチャンネルKurzgesagtの経験を基に、AIが生成する低品質なコンテンツ「AIスロップ」がインターネットとコンテンツ作成の信頼性を破壊する可能性がGIGAZINEの記事で警告されています。現在、インターネットトラフィックの約半分はボットであり、Googleの「AIによる概要」のようなAIが生成する誤情報が蔓延しています。KurzgesagtがAIを研究ツールとして利用した際、提示された情報の20%は出典が不明で、AIが「より面白くするため」に情報を捏造した可能性が指摘されました。さらに、出典付きとされた情報の深掘り調査では、その参照元であるニュースサイト自体がAIによって生成された記事（AIエッセイ検出ツールで72%の一致率）を掲載していたという悪循環が判明。2025年には1200以上のサイトでAI生成の誤報が確認されており、AIがAIを汚染し続ける「情報のグレシャムの法則」が現実化しています。
ウェブアプリケーションエンジニアにとって、この状況は極めて重要です。第一に、アプリケーションがウェブ上の情報源に依存する場合、その基盤となるデータの信頼性が急速に低下していることを意味します。AIを活用した機能やコンテンツを実装する際には、AIの出力だけでなく、その学習データの質や情報源の検証がこれまで以上に必須となります。安易にAIの生成物を鵜呑みにすることは、誤情報の拡散に加担し、アプリケーションの信頼性を損なうリスクを高めます。第二に、検索エンジンや情報提供サービスの品質低下は、ユーザーエクスペリエンスに直結します。エンジニアは、信頼できる情報源の選定、ファクトチェック機構の導入、あるいはユーザーが情報源の信頼性を判断できるようなUI/UXの設計を考慮する必要があります。この警鐘は、AIを組み込んだ開発ワークフローにおいて、情報の真偽を見極めるための厳格なプロセスと、AIの生成物を盲信しない批判的思考の重要性を再認識させます。