AI終末論者の「パスカルの賭け」と、今ここにある真の人工生命体の脅威

概要

AIによる人類滅亡のリスクという不確実な「パスカルの賭け」に資源を投じるよりも、既に社会を支配し牙を剥いている「有限責任会社」という実在の人工生命体と戦うためのデジタル公共財を構築すべきだ。

詳細内容

コリー・ドクトロウは、現在のAI技術が真の知能に至るとは考えておらず、AIによる存亡リスク（Doomer論）を現代版の「パスカルの賭け」であると批判しています。ヨシュア・ベンジオのような専門家は、わずかな確率であっても破滅のリスクがあるなら対策を講じるべきだと主張しますが、ドクトロウは、その論理では「アルゴリズムの神」を召喚するために太陽系を解体してダイソン球を作るような、際限のない資源浪費を正当化できてしまうと指摘します。しかし、ドクトロウはベンジオとの共通項も見出しています。それは「人間のコントロールを離れ、公共の利益に反して動く人工的な生命体」への恐怖です。ドクトロウによれば、その生命体とは将来のAIではなく、既に実在する「有限責任会社（Corporation）」です。これら既存の人工生命体は、法制度や議会を征服し、監視と独占を通じて人々を窮乏させています。結論として、将来の仮想的なAIリスクに対抗するという名目で「国際的なデジタル公共財」を構築しようとするベンジオらの提案を受け入れつつ、それをまず「今ここにある企業の専制とプラットフォームの粗悪化（Enshittification）」から脱却するために使うべきだと説きます。既存の企業支配という「エイリアン」を打倒するインフラを作ることこそが、結果として将来のいかなるAIの脅威に対する最良の防御策にもなるという主張です。

元記事を読む他のサマリーを見る