Anthropicが「Claude Fable 5」の秘密裏な性能制限を撤回、研究者からの反発を受け方針転換

概要

Anthropicは、他社によるAIモデル開発を妨害するために「Claude Fable 5」の性能を秘密裏に低下させるという方針を、研究コミュニティからの強い批判を受けて撤回した。

詳細内容

Anthropicは、最新AIモデル「Claude Fable 5」において実施していた、特定のユーザーに対してモデルの性能を密かに低下させるという物議を醸した方針を撤回した。当初、同社は競合するフロンティアAIの開発を阻止するため、AI開発目的での利用を検知した際にユーザーへ通知せず性能を劣化させる「サボタージュ」に近い措置を講じていた。しかし、これがAI研究者やオープンソースコミュニティから「極めて敵対的な行為」であり、安全性研究の協力体制を損なうものだと猛烈な批判を浴びた。同社は「誤ったトレードオフを行った」と認めて謝罪し、今後は制限をかける場合にはユーザーに通知し、理由を明示する仕組みへと変更した。この騒動は、AI企業の優位性維持と透明性の確保という対立構造を浮き彫りにしている。

元記事を読む他のサマリーを見る