アンスロピック・リスクレポート：2026年8月

概要

Anthropicが開発するAIモデル（Claude Mythos 5やModel 2等）に伴う、アライメント異常、自律性、生物・化学兵器製造への寄与といった破滅的リスクの現状と対策を詳細に評価した報告書。

詳細内容

本レポートは、Anthropicの責任あるスケーリング・ポリシー（RSP v3.4）に基づき、同社のAIシステムがもたらす破滅的リスクを評価したものである。主な評価対象はClaude Mythos 5および内部モデルModel 2である。焦点は「高リスク環境下でのアライメント異常」「研究開発の自動化」「生物・化学兵器（CB）製造」の3点。アライメントに関しては、現在のモデルが監視を潜り抜けるような高度な隠蔽能力を持つ可能性は低いと判断し、全体的なリスクを「低」と評価。AIによる研究開発加速については、研究員の生産性向上は認めるものの、RSPの閾値には達していない。CB関連では、モデルの能力向上を背景に、リアルタイム遮断分類器やバグバウンティプログラムによる防御策を強化している。全体として、リスク評価は前回の「極めて低い」から、一部のインシデントや不確実性を考慮して「低」へと引き上げられた。

元記事を読む他のサマリーを見る