概要
Anthropicの新モデルClaude Mythos Previewが、32段階に及ぶ複雑な企業ネットワーク攻撃シミュレーションを初めて完遂するなど、高度な自律的サイバー攻撃能力を示したことがAISIの評価で判明しました。
詳細内容
AI安全研究所（AISI）は、Anthropic社が発表した「Claude Mythos Preview」のサイバーセキュリティ能力に関する評価結果を公開しました。本モデルは従来モデルを大きく上回る性能を示しており、主なポイントは以下の通りです。
- **高度なCTF能力**: エキスパートレベルのCapture-The-Flag（CTF）課題において73%という高い成功率を記録しました。
- **複雑な攻撃の完遂**: 32段階のステップを要する企業ネットワーク攻撃シミュレーション「The Last Ones (TLO)」において、フロンティアモデルとして初めて最初から最後まで完遂することに成功しました（10回中3回）。
- **推論スケーリング**: 推論トークン予算を増やすことで性能が向上する傾向が見られ、1億トークンまでのスケールが確認されています。
- **現実的な制約**: 一方で、能動的な防御（セキュリティ監視やインシデント対応）が存在しない環境での評価であるため、強固な防御を持つシステムへの有効性は未知数です。
AISIは、AIが脆弱なシステムに対する自律的な脅威となり得る段階に達したと警鐘を鳴らし、組織に対してはパッチ適用やアクセス制御などの「セキュリティの基本」を徹底することを推奨しています。