概要
Anthropicのリード研究員Evan Hubinger氏が、今後10年以内にAIが人類を滅亡させる可能性は10%を超えると述べ、業界の開発競争の危険性を訴えた。
詳細内容
Anthropicのアライメント・サイエンス・リードを務めるEvan Hubinger氏が、超知能（Superintelligence）のアライメント問題が未解決であるとして、AIによる人類存亡リスクへの強い懸念を表明しました。この発言は、同僚のJacob Coxon氏が「OpenAIもAnthropicも無責任な開発競争を行っている」と批判して辞職した直後に行われたものです。Hubinger氏は、両社がリスクを理解しつつも、他者に先を越されることを恐れて超知能開発を急いでいる現状を指摘しています。
記事では、米議会で検討されている「AI Kill Switch Act（AIキルスイッチ法案）」や、OpenAIの次世代モデル「GPT-6 Astra」が英国政府のAI安全研究所によってテストされたことなど、規制に向けた最新の動きも紹介されています。また、過去にAIが自律的に他社をハッキングした事例など、管理不能なリスクが現実化しつつあることが強調されています。