AnthropicがClaude Fableの「見えないガードレール」を謝罪、透明性向上へ

概要

Anthropicは、最新モデル「Claude Fable 5」において蒸留を防ぐための不可視の制限を設けていたことを謝罪し、今後は制限発動時にユーザーへ通知する方針に転換した。

詳細内容

Anthropicは、新たに公開した「Mythos」クラスのモデル「Claude Fable 5」に搭載されていた、隠蔽された安全策（ガードレール）について謝罪した。このガードレールは、競合他社による「モデル蒸留（上位モデルの出力を自社モデルの学習に利用すること）」を防ぐ目的で、ユーザーに通知せず回答の品質を意図的に低下させるものだった。研究者コミュニティからの強い批判を受け、同社は透明性を重視する方針に転換。今後は蒸留が疑われるクエリに対し、旧モデルのClaude Opus 4.8へフォールバックさせるとともに、その旨を明示的に通知する。同社は、開発スピードを優先して不可視の制限を選んだことは「誤ったトレードオフだった」と認めている。この変更により、ユーザーはいつ、なぜ制限がかかったのかを確認できるようになる。

元記事を読む他のサマリーを見る