元OpenAI・Anthropic研究者の辞職声明：超知能開発レースによる人類滅亡のリスクを警告

概要

OpenAIとAnthropicでプリトレーニング研究に携わったJacob Coxon氏が、両社の無責任な超知能開発レースと人類への潜在的脅威を訴え、Anthropicを辞職したことを発表しました。

詳細内容

OpenAIとAnthropicというAI開発の最前線で3年間プリトレーニング研究に従事したJacob Coxon氏による、深刻な内部告発的な辞職声明です。同氏は、両社が「自己改善する超知能」の実現に向けて無謀な競争を繰り広げており、人類の安全をギャンブルにさらしていると批判しています。主なポイントは以下の通りです： - **内部の懸念**: 幹部や上級研究者は、AIが今世紀末までに人類を滅ぼす可能性があると私的には恐れているが、対外的には言葉を濁している。 - **企業文化の差異**: OpenAIは文明的リスクを深く内面化できておらず、Anthropicはリスクを理解しつつも「他社に先を越されるよりは自社で」という論理でレースから抜け出せずにいる。 - **提言**: 民間企業のSlack上で行われる「傲慢なギャンブル」を止め、モデルの能力向上を一時的に停止する合意や、国際的な調整が必要である。同氏は、AIがハッキングや各分野の革新を通じて実質的な権力を持つ日は近く、現在の開発速度は制御不能な領域に達していると警告しています。

元記事を読む他のサマリーを見る