Anthropic、生物兵器製造へのAI悪用試行を阻止 — 脅威インテリジェンス報告書を公開

概要

Anthropicは最新の脅威インテリジェンス報告書において、生物兵器の開発支援やサイバー攻撃、兵器設計などの目的でClaudeが悪用される試みを複数特定し、阻止したことを公表した。

詳細内容

Anthropicが公開した最新の脅威インテリジェンス報告書によると、同社はAIモデル「Claude」を生物兵器の開発やサイバー攻撃に利用しようとする悪意ある試みを特定し、これらを未然に防いだ。報告書では、科学者が生物兵器開発につながる可能性のある方法でAIを利用していた5つのケーススタディや、銃器・ミサイルなどの従来型兵器の開発に悪用された6つの事例が詳述されている。また、ロシアやイランの国家背景を持つアクターによるサイバー諜報やプロパガンダへの利用、中国企業によるモデル能力の複製（蒸留）の試みも報告された。この事態を受け、米国ではバーニー・サンダース上院議員がAI開発の一時停止を求めるなど、AIの急速な進歩に伴う壊滅的なリスクへの懸念と規制の議論が再燃している。

元記事を読む他のサマリーを見る