Anthropicの安全研究リーダーが退職、「世界は危機にある」と警告

概要

AnthropicのAI安全担当リーダーであるMrinank Sharma氏が、AIや生物兵器、業界の価値観軽視に対する懸念を表明し、世界的な危機を警告して退職した。

詳細内容

AnthropicでAI安全対策チームを率いていたMrinank Sharma氏が、同社を退職したことが報じられました。Sharma氏は退職願の中で、AIや生物兵器のリスク、そして現代社会が直面する相互に関連した複数の危機に対し、「世界は危機にある（The world is in peril）」という衝撃的な警告を発しました。彼は、Anthropicを含むAI企業が、最も重要な価値観よりも商業的な圧力を優先せざるを得ない状況にあることを指摘しています。同氏は今後、英国に戻り詩を学ぶ道に進むとしています。また、同時期にはOpenAIの研究者であるZoe Hitzig氏も、ChatGPTへの広告導入がもたらす心理社会的な悪影響への懸念を理由に退職しており、主要AI企業における「安全や倫理」と「商業化・収益化」の間の深刻な葛藤が浮き彫りになっています。Anthropicはこれまで「安全性重視」を掲げOpenAIとの差別化を図ってきましたが、著作権訴訟や技術の悪用などの課題に直面する中、内部からもその姿勢に疑問を呈する声が上がった形です。この一連の動きは、急速に発展するAI業界において、初期の崇高な理念を維持することの困難さを象徴しています。

元記事を読む他のサマリーを見る