概要
https://www.itmedia.co.jp/aiplus/articles/2602/04/news025.html
詳細内容
## 悪意持つAI集団が“人間のふり”で大量に会話→偽世論で情報操作 次世代プロパガンダの脅威、国際チームが警告
https://www.itmedia.co.jp/aiplus/articles/2602/04/news025.html
詳述する：自律型AIエージェント集団（スウォーム）が人間を模倣して世論を組織的に操作する、次世代プロパガンダの技術的脅威とその対策を。
**Content Type**: 🔬 Research & Analysis
**Language**: ja
**Scores**: Signal:5/5 | Depth:4/5 | Unique:4/5 | Practical:3/5 | Anti-Hype:4/5
**Main Journal**: 81/100 | **Annex Potential**: 81/100 | **Overall**: 80/100
**Topics**: [[AIエージェント, プロパガンダ, セキュリティ, LLMグルーミング, 民主主義]]
イェール大学やハーバード大学などの国際研究チームが、**自律型AIエージェントの集団（スウォーム）**による組織的な情報操作が民主主義に与える脅威を『Science』誌で報告した。従来の単純なbotと異なり、これらのAI集団は持続的な**人格と記憶**を保持しながら共通の目標に向けて協調し、ターゲットとなる人間の反応にリアルタイムで適応する能力を持つ。
技術的な特徴として、1人の攻撃者が数千規模の**AIペルソナ**を操り、SNSコミュニティ特有の文化を模倣して深く潜り込む手法が挙げられる。これにより「**偽りの合意**」を演出し、架空の世論を形成することが可能だ。特に深刻なのが、大量の偽情報をネット上に流布することで将来のモデルが誤った情報を事実として学習してしまう**LLMグルーミング**という概念である。これはAIの学習データの完全性を損なう長期的なリスクを孕んでいる。
対策として、研究チームは個別の投稿削除といった対症療法ではなく、AI集団特有の**不自然な連携（Coordinated Behavior）**を検知するシステムの構築や、プライバシーを保護した**人間証明技術（Proof of Personhood）**の普及を提言している。また、プラットフォーム企業に対する経済的圧力や国際的な監視ネットワークの必要性も強調されている。SNSプラットフォームの設計者や、AIの安全性向上に取り組む**セキュリティエンジニア**、情報ガバナンスに関心のある開発者にとって、次世代の攻撃手法を理解するための必読の分析である。