概要
Anthropicの安全性研究者が、今後10年以内にAIが人類を滅ぼす可能性が10%以上あると警告し、超知能のアライメント問題が未解決である現状に警鐘を鳴らしました。
詳細内容
Anthropicの主要な安全性研究者であるエヴァン・ハビンジャー氏が、AIが急速に進化することで、今後10年以内に人類を滅ぼす確率が10%を超えるとSNSで警告しました。ハビンジャー氏は、現在のモデルの危険性は低いとしつつも、AIが自己改善を始め、超知能へと至る過程で人類の存亡に関わるリスクが生じることを懸念しています。
この警告は、AnthropicやOpenAIを退職した複数の研究者が、両社の無責任な開発姿勢を批判する中で発せられたものです。特に、AIを人間の価値観に適合させる「アライメント」技術について、ハビンジャー氏は「超知能のための解決策も計画もまだない」と述べています。
これに対し、専門家からは上場を控えた企業のPR戦略ではないかという懐疑的な見方が出る一方、英国の政治家からは超知能開発に関する国際的な管理条約の策定を求める声が上がっています。AIの発展速度が政府の対応を上回る懸念が強まっており、安全性の評価とガバナンスが急務となっています。