概要
Anthropicと米政府は、サイバー攻撃能力が極めて高い次世代モデル「Claude Mythos」の安全性と国防利用における対立を解消すべく、信頼関係の再構築に向けた協議を開始した。
詳細内容
米政府とAnthropicのCEOダリオ・アモデイ氏は、国防総省（DoD）との対立以来初めてとなる協力関係の協議をホワイトハウスで行いました。以前、Anthropicは自律型兵器や国内監視へのAI転用を懸念してガードレールの撤廃を拒否し、政府からサプライチェーンリスクに指定されていましたが、今回の会合は関係修復の兆しを見せています。
焦点となっているのは、未公開の次世代モデル「Claude Mythos Preview」です。このモデルはコーディングとエージェント機能において過去最高の性能を誇り、専門家レベルのサイバー攻撃を自律的に完遂できる能力を持つことが英国のAISIなどにより確認されています。特に、レガシーシステムを抱える金融機関への脅威が懸念されており、スコット・ベッセント財務長官らも参加して「Project Glasswing」を通じた防御策が議論されました。
政府側は技術的優位性の確保と安全性のバランスを求めており、ホワイトハウスは会合を「生産的かつ建設的」と評しています。トランプ大統領は以前の同社への非難から一転して沈黙を守っており、AIの安全性と国家安全保障をめぐる新たな官民連携の枠組みが模索されています。