米政府、Anthropicに対しClaude Fableの公開停止を命令 — 公開からわずか数日後

概要

米政府は国家安全保障上の懸念を理由に、Anthropicの最新AIモデル「Claude Fable 5」の公開停止を命じ、AIの安全規制と商用展開のあり方を巡る議論が再燃している。

詳細内容

Anthropicは、最高性能を誇る新モデル「Claude Fable 5」のリリースからわずか3日後、米国政府の輸出管理指令を受けて同モデルおよび「Mythos 5」の公開を一時停止しました。指令の背景には、特定のコードベースを読み込ませて脆弱性を修正させるという、防御的エンジニアリングで一般的な手法を用いた「限定的な脱獄（ジェイルブレイク）」が国家安全保障上のリスクになるとの懸念があります。Anthropicはこの技術的判断に対し、指摘された脆弱性は軽微で既知のものであり、他社モデルでも再現可能であると反論していますが、法的な遵守のために全世界でのアクセス遮断を余儀なくされました。この事態により、高度なAIモデルに対する政府の介入が商用製品の市場性をいかに直接的に阻害し得るかという新たな課題が浮き彫りになっています。

元記事を読む他のサマリーを見る