Anthropic共同創業者が提唱、AI「キルスイッチ」義務化の必要性

概要

Anthropicの共同創業者が、AIが制御不能になった際に強制停止できる「キルスイッチ」の義務化と第三者による検証の必要性をBBCのインタビューで語った。

詳細内容

Anthropicの共同創業者ジャック・クラーク氏は、AIの危険性が高まった場合に備え、ソフトウェアを完全に停止させる「キルスイッチ」の導入を企業に義務付けるべきだと主張した。同氏は、このスイッチが第三者によって検証可能であるべきだとも述べている。背景には、AIが人類に壊滅的な打撃を与える可能性（10%以上と見積もる研究者も存在）への懸念がある。現在、米国では「キルスイッチ法案」が提出されている一方で、ドナルド・トランプ氏はAIの脅威を「デマ」と呼び、英国政府も実効性の観点から導入を拒否するなど、規制を巡る国際的な議論が分かれている。また、こうした危機論を企業価値向上のための「ハイプ（煽り）」と見る業界内の批判的な視点も紹介されている。

元記事を読む他のサマリーを見る