Pacing the Frontier：最先端AI企業従業員によるAI開発ペース調整の共同提言

概要

OpenAI、Anthropic、Google DeepMindなどの主要AI企業の従業員1,300名以上が、AI研究の自動化による制御不能な加速を懸念し、国際的な協力による開発ペースの調整とガバナンスの構築を米国政府に要請した。

詳細内容

### 概要 OpenAI、Anthropic、Google DeepMind、Meta AIといった最先端AI企業の従業員1,324名が署名した共同声明。AIがAIを研究・開発する「自動化されたAI研究」が目前に迫る中、開発速度が社会の理解や制御能力を上回るリスクを警告し、適切なリスク管理と監視体制を整えるための「時間を稼ぐ」手段として、国際的な開発ペースの調整を求めています。 ### 主要なポイント - **指数関数的な加速への懸念**: AI研究の自動化により、開発スピードが予測不可能に加速し、安全性が損なわれる「破滅的なリスク」を指摘しています。 - **競争による膠着状態**: 個別の企業や国家は、激しい競争圧力から単独で開発を遅らせることが困難な状況にあります。 - **ガバナンスの要請**: 米国政府に対し、国際的な枠組みを通じてAI開発のフロンティアを意図的に制御・調整できる技術的・政治的ツールの開発を支援するよう要請しています。 ### 意義 Ilya Sutskever氏やDario Amodei氏、John Schulman氏といった業界のトップリーダーが個人的な立場で署名しており、開発の最前線にいるエンジニアたちが、自らの技術がもたらす速度に強い危機感を抱いていることを示しています。

元記事を読む他のサマリーを見る