性、AI、そして黙示録：ラショナリズム運動が招く「救済」と「破滅」の系譜

概要

シリコンバレーのAI安全性をリードする「ラショナリスト」コミュニティの、カルト的な内実、性的なもつれ、そして権威主義的な政治工作との深い繋がりを暴く批判的論考。

詳細内容

本稿は、AIの存亡リスク（x-risk）を訴える主要人物たちが属する「ラショナリスト」コミュニティの25年にわたる歴史と、その危険な側面を詳細に分析した論考である。著者のイアン・K・ダンカンは、エリーザー・ユドコウスキーを教祖的存在とするこの集団が、いかにして「自分たちは人類で最も明晰な思考の持ち主である」という選民意識を植え付け、カルト的な心理操作や性的搾取、さらには人種科学や反民主主義的な思想を内包してきたかを指摘する。特に、ハリー・ポッターの二次創作を用いたリクルーティング、心理学的介入（デバッギング）による精神的崩壊、そして「ジジアン」と呼ばれる分派による殺人事件など、運動の影の部分に光を当てる。また、このコミュニティが「有効的利他主義（EA）」と融合し、ピーター・ティールやJD・ヴァンスといった政治的権力者と結びつくことで、AI規制の枠組みを独占しようとしている現状を批判。知能の高さが「例外的な特権」の免罪符となり、既存の民主的チェック機能を回避して、特定のネットワークが人類の未来を左右しようとする傲慢さを警告している。

元記事を読む他のサマリーを見る