Anthropicが「安全性第一」の公約を撤回：競争激化と規制不在が背景

概要

AIの安全性を最優先に掲げてきたAnthropicが、競合他社との競争激化や規制の不透明さを理由に、安全性が保証されるまで新モデルを訓練しないという中心的な公約を事実上撤回した。

詳細内容

AIスタートアップのAnthropicが、同社の「責任あるスケーリング・ポリシー（RSP）」の根幹であった、安全策が十分でない場合にモデルの訓練を停止するという公約を撤回したことがTIMEの取材で判明した。同社の共同創設者ジャレッド・カプラン氏は、競合他社が開発を加速させる中で自社のみが一方的に停止することは「誰の助けにもならない」と説明。新たな方針では、訓練の停止という厳しい閾値を廃止し、透明性の高いリスク報告書の定期発行（3〜6ヶ月毎）や安全ロードマップの提示、そして自社が業界をリードし壊滅的リスクが顕著な場合にのみ「開発を遅らせる」という、より柔軟で現実的なアプローチにシフトする。この方針転換は、AI評価の難しさ、トランプ政権下での規制緩和の流れ、そして市場競争の激化という厳しい現実を反映している。

元記事を読む他のサマリーを見る