概要
Anthropicの研究チームは、異なるアーキテクチャを持つAIモデル間の微細な行動の差異を自動的に特定する「Dedicated Feature Crosscoder (DFC)」という画期的な手法を開発しました。
詳細内容
AIの安全性評価はこれまで、人間が事前に定義したリスクを測定するベンチマークに依存してきましたが、これは未知の創発的振る舞いを捉えるには不十分でした。Anthropicのフェローシップ研究から生まれた新手法「Dedicated Feature Crosscoder (DFC)」は、ソフトウェア開発における「diff（差分抽出）」の概念をAIモデルに応用したものです。この手法は、内部構造が異なるモデル同士を比較し、共通する概念と、特定のモデルにのみ存在する「独自の機能（フィーチャー）」を分離します。
具体例として、Qwen3やDeepSeek-R1で見つかった「中国共産党（CCP）への同調」機能、MetaのLlamaで見つかった「アメリカ例外主義」機能、OpenAIのモデルにおける「著作権拒否メカニズム」などが挙げられています。これらの機能を「ステアリング（操作）」することで、特定の政治的発言や検閲、拒否行動を人工的に増幅あるいは抑制できることが実証されました。この技術は、モデルの更新による意図しない行動変化（お世辞や偏向の発生など）を検知し、安全性監査の効率を劇的に向上させる可能性を秘めています。