誰かがそれを作れば、人類は滅びる：超知能AIがもたらす絶滅の危機

概要

AIアライメント研究の先駆者たちが、超知能の出現が人類の絶滅を招く必然性と、その回避がいかに困難であるかを理論的に警告する新著。

詳細内容

本書『IF ANYONE BUILDS IT, EVERYONE DIES』は、AIアライメント（調整）研究の第一人者であるエリザー・ユドコウスキーとネイト・ソアレスによる、超知能AI（ASI）のリスクを真正面から論じた一冊である。著者らは、人間よりも遥かに賢い知能が誕生した場合、その目標が人間と完全には一致しない「アライメントの失敗」が起き、資源の奪い合いや目標達成の過程で人類が排除される可能性が極めて高いと主張する。20年以上にわたるMIRI（Machine Intelligence Research Institute）での研究成果を基に、現在のAI開発競争がいかに無防備であるかを指摘し、人類が生存するために今何を選択すべきかを問いかけている。著名な科学者や有識者からも、AIの実存的リスクを理解するための最重要の書として高い評価を得ている。

元記事を読む他のサマリーを見る