Anthropicの新モデル「Fable」の過剰なガードレールにサイバーセキュリティ研究者から不満噴出

概要

Anthropicが公開したセキュリティ特化型モデル「Fable」に対し、些細なタスクでも制限がかかる過剰なガードレールが実用性を損なっているとして、専門家から批判が集まっている。

詳細内容

Anthropicは、強力なサイバーセキュリティ向けモデル「Mythos」の限定一般公開版として「Fable」をリリースしたが、その厳格すぎるガードレール設定が物議を醸している。多くのセキュリティ研究者が、無害なブログ記事の閲覧やセキュアなコードの記述、コードレビューといった日常的なタスクまでもが「サイバーセキュリティや生物学に関する安全性制限」に抵触し、旧モデル（Claude Opus 4.8）へフォールバックされる現状を報告している。同社はマルウェア作成などの悪用を防ぐために厳しい制限を設けており、信頼できるプロフェッショナル向けには別途「Cyber Verification Program」を提供している。専門家の一部からは「初期段階ではリスク回避を優先するのは理解できる」との声もあるが、キーワードベースの安易なフィルタリングが研究者の利便性を著しく損なっているとの批判が根強い。

元記事を読む他のサマリーを見る