概要
2026年10月の視点から、AIによる人類絶滅のリスク確率（p(doom)）、主要企業の安全性への取り組み、そして数学的難問の解決といった急速な能力向上を網羅的に分析している。
詳細内容
本記事は、AIが人類に及ぼす生存リスクについて、複数のステークホルダーの予測と現状を比較した包括的なレポートである。2024年末から2026年までのデータを基に、以下の主要なポイントを挙げている。
1. **リスク推計の乖離**: トップクラスのAI研究者の生存リスク（p(doom)）中央値が10%であるのに対し、実績のあるスーパーフォアキャスターは2.4%と低く見積もっている。米国の一般市民の約50%が人類滅亡を懸念している。
2. **企業の安全文化**: OpenAIとAnthropicの比較では、両社ともモデルの公開停止や制限措置を講じている一方で、競争圧力により安全性ガイドラインの緩和や「開発ペースの減速」という公約の形骸化が見られる。外部機関による安全性評価は概ねCからD+の範囲に留まっている。
3. **能力の爆発的進化**: AIの数学能力は専門家の予測を数年単位で上回り、2025年には数学オリンピックで金メダル級の成績を収め、2026年にはミレニアム懸賞問題の一つである「ナビエ–ストークス方程式」の証明を主張するに至った。
4. **懸念される経路**: 生物兵器の製造支援、権威主義者による支配、そして制御不能な自律システムの出現が主なリスク要因として挙げられている。
結論として、破局的シナリオは「起こりにくい」ものの、無視できない確率として開発者自身が認めており、国家レベルの規制や開発ペースの調整が議論の焦点となっている。