Claude Fable 5の生物学セーフガードの改善：誤検知を85%削減し医療・教育での利便性が向上

概要

Anthropicは次世代モデル「Claude Fable 5」の生物学セーフガードを大幅に刷新し、正当なクエリに対する誤検知を85%削減することで、医療従事者や教育分野での実用性を高めました。

詳細内容

Anthropicは、最新のフロンティアモデル「Claude Fable 5」における生物学関連の安全性システムを更新しました。従来、生物兵器への転用などの悪用リスク（デュアルユース）を防止するため、生物学に関連する広範なクエリを制限し、旧来モデル（Opus 5）へ強制的に切り替える「フォールバック」が発生していましたが、今回の更新によりこの誤検知が約85%削減されました。具体的には、安全性を判定する「分類器（Classifier）」の憲法（ルールセット）を専門家のフィードバックに基づき再構築し、再学習を行うことで、一般的な健康相談や学術的な質問をより正確に識別できるようになりました。これにより、臨床タスクのサポートや症状の理解といった正当な用途でのFable 5の利用が容易になります。一方で、ウイルス学や分子設計といった専門的な研究分野は、引き続き悪用リスク管理のため制限されますが、同社は今後、信頼されたアクセス経路を通じて専門家へ提供する計画を立てています。

元記事を読む他のサマリーを見る