Anthropicのダリオ・アモデイCEO、AI開発のペースを落とすよう提言

概要

AnthropicのCEOダリオ・アモデイ氏が、AIの壊滅的リスクを回避するため、開発ペースを緩め、第三者による安全性評価を導入すべきだとするエッセイを発表した。

詳細内容

Anthropicのダリオ・アモデイCEOは、公開したエッセイ「We Must Pace the Frontier」の中で、AI開発のフロンティアを慎重に進めるための3段階の計画を提案しました。同氏は、AIが「人類を滅ぼす可能性」を含む深刻なリスクを指摘し、モデル開発における独立した監視、業界全体の規制、そしてグローバルな規制の必要性を説いています。これに対し、OpenAIのサム・アルトマン氏やイーロン・マスク氏も賛意を示していますが、一部の投資家からは「オープンソースを排除し、自社の権力を集中させるための動きだ」との批判も出ています。アモデイ氏は、米国の優位性を保ちつつ中国の台頭を防ぐために、チップの輸出制限などの外交的・戦略的な調整も不可欠であると強調しています。

元記事を読む他のサマリーを見る