Anthropicの「Mythos」モデルに未承認ユーザーがアクセスか

概要

Anthropicが限定公開を予定していたサイバーセキュリティ特化型AIモデル「Mythos」が、発表当日に未承認のユーザーグループによって不正にアクセスされていたことが判明しました。

詳細内容

Bloombergの報道によると、Anthropicが一部の企業向けにテスト目的で提供を開始すると発表した当日に、非公開オンラインフォーラムのユーザーたちが「Mythos」モデルへのアクセス権を確保していたことが明らかになりました。このグループは、本来のサイバーセキュリティ目的ではなく、一般的な用途でモデルを継続的に使用しており、スクリーンショットやライブデモンストレーションによってその事実が裏付けられています。Mythosは、米国政府も活用を検討しているほど強力で、かつ「公開するには危険すぎる」と評されることもあるモデルです。Hacker Newsの議論では、高度なセキュリティ用AIを開発する企業のセキュリティ体制が脆弱であることへの皮肉や、AI開発におけるガバナンスと安全管理の欠如を懸念する声が多く寄せられています。

元記事を読む他のサマリーを見る