AIは核戦争を始めるために「超知能」も悪意も必要としない

概要

AIは「超知能」がなくても、人間の心理的バイアスや判断ミスを増幅させ、情報の高速化と過負荷を通じて核戦争のエスカレーションを誘発するリスクがある。

詳細内容

AIが核戦争を引き起こすリスクは、SF的な「超知能」の反乱よりも、現代のAI技術が人間の心理的脆弱性を増幅させる点に潜んでいる。心理学の視点から、人間には犠牲者の数が増えるほど感情が鈍麻する「心理的麻痺（psychic numbing）」があり、AIによる正確なデータ提示だけではこのバイアスを克服できない。また、AIが生成・処理する情報の圧倒的な速さと量は、危機の際に指導者の判断時間を奪い、誤認や「安全確保のための先制」というエスカレーション・スパイラルを加速させる。解決策として、AIを単なる補助ツールとして位置づけ、指導者の衝動的決定を防ぐ制度的なガードレールの構築が不可欠であると論じている。

元記事を読む