Fable 5、ガードレール（保護機能）が厳しすぎて「DNAとは？」にも答えず

概要

Anthropicの新型AI「Claude Fable 5」にて、安全性を監視する「分類器」が過敏に反応し、生物学の基礎的な質問までリスクと判定される事態が発生している。

詳細内容

米Anthropicが公開した最新AIモデル「Claude Fable 5」には、サイバー攻撃やバイオセキュリティのリスクを検知する独立したAIシステム「classifier（分類器）」が導入されています。しかし、このガードレールが過度に保守的に調整されているため、「DNAとは何か」や「がん」といった無害な学術的質問までもがバイオリスクとしてフラグ立てされ、下位モデルへの強制切り替えが発生していることが話題になっています。Anthropicは安全性を優先した結果の誤検知（false positive）であると認めており、今後利用体験を損なわないよう精度を改良していく方針を示しています。

元記事を読む他のサマリーを見る