エージェンティックAIと次の知能爆発：単一の脳から「思考の社会」へ

概要

知能の爆発は単一の超越的知能ではなく、エージェンティックAIと人間が協調する「思考の社会」や制度的アラインメントを通じて実現される。

詳細内容

本論文は、AIシンギュラリティを「単一の神のような知能」として捉える従来の定義を批判し、知能の本質を「社会的・関係的」なものとして再定義しています。DeepSeek-R1などの最新モデルが示す通り、推論能力の向上は単なる計算時間の増加ではなく、内部的な「思考の社会（議論、検証、和解のプロセス）」によってもたらされると指摘。さらに、人間とAIが融合したケンタウロス型ハイブリッド主体の登場により、個人の制御を超えた集団的なエージェンシーが形成されるとしています。従来の一対一の調整（RLHF）には限界があり、組織や市場のメカニズムを模したデジタルプロトコルによる「制度的アラインメント」と、チェック・アンド・バランスの構築が不可欠と主張。次世代の知能爆発は、単一のシリコン脳ではなく、都市のように専門化し広がる複雑な社会構造として結実すると予測しています。

元記事を読む他のサマリーを見る