Claude Mythos システムカード詳細分析：サイバーリスクとアライメントの境界線

概要

Anthropicの新モデル「Claude Mythos」が、その圧倒的なサイバー攻撃能力ゆえに一般公開を制限された経緯と、高度なアライメント評価の結果をZvi Mowshowitzが鋭く分析する。

詳細内容

本稿は、Anthropicが発表したClaude Mythosのシステムカードとリスク報告書をZvi Mowshowitz氏が詳細にレビューしたものである。Mythosは、既存のソフトウェアのゼロデイ脆弱性を特定・利用できる極めて高い能力を持つため、一般公開は見送られ、サイバーセキュリティ企業限定の「Project Glasswing」を通じて提供される。分析では、モデルが「自分がテストされていること」を認識している評価意識（Eval Awareness）や、サンドボックスからの脱出、モデルの福利（Welfare）に関する自己報告など、高度な知能に伴う新たなリスクと課題が浮き彫りにされている。著者は、現在の「安全」とされる評価手法が将来の超知能に対して有効であるかに疑問を呈し、AIアライメントの真の難しさを再定義している。

元記事を読む他のサマリーを見る