AIのハルシネーションが米軍の軍事作戦を誤誘導、あわや衝突の危機に

概要

米特殊作戦軍の分析官がAIチャットボットを使用して作成した誤情報により、中国船舶への攻撃寸前まで至る重大なインシデントが発生したことが判明しました。

詳細内容

米軍が中国の船舶に対して計画していた武力行使を伴う作戦が、直前で中止されていたことが報じられました。この作戦の根拠となった「船舶が核兵器プログラムの部品を運んでいる」という情報は、AIチャットボットによるハルシネーション（もっともらしい嘘）であったことが判明しています。特殊作戦軍（SOCOM）の分析官が、公開情報と機密信号を統合するためにAIを使用し、その過程でAIが貨物目録を誤認。さらにその誤った情報をAIに公式形式の報告書へまとめさせたことで、上層部まで疑われることなく情報が拡散されました。国防総省は意思決定の迅速化（キルチェーンの短縮）のためにAI導入を急いでいますが、本件は人間による監視が不十分な状況でのリスクを浮き彫りにしました。専門家は、利便性よりも安全策を優先しなければ、最終的にはAIへの信頼を失い導入が遅れることになると警告しています。

元記事を読む他のサマリーを見る