Anthropicのオープンウェイトモデルに対する見解：禁止ではなく安全策の強化を提唱

概要

AnthropicのCEOダリオ・アモデイ氏は、オープンウェイトモデルの禁止には反対しつつ、国家安全保障の観点からチップ輸出規制、産業規模の蒸留阻止、および全モデルへの安全性テストを提唱した。

詳細内容

AnthropicのCEO、ダリオ・アモデイ氏は、同社がオープンウェイトモデルの禁止を画策しているという誤解に対し、明確な立場を表明しました。同氏は、危険な機能を持たないオープンウェイトモデルは「公共財」であると認め、それ自体の禁止は有用な手段ではないと述べています。一方で、権威主義国家によるAIの軍事利用や、生物・サイバー攻撃への悪用という重大な懸念に対処するため、以下の3つの対策を提案しています。 1. **高性能チップの輸出規制**: 中国などの権威主義国家へのチップ供給および密輸を徹底的に阻止すること。 2. **産業規模の蒸留（Distillation）の抑制**: クローズドモデルからの知識抽出による効率的な性能向上を規制し、開発スピードの優位性を保つこと。 3. **義務的な安全性テストの導入**: オープン・クローズドを問わず、一定以上の能力を持つ全てのモデルに対して、リリース前にサイバーや生物学的リスクの厳格なテストを課すこと。アモデイ氏は、オープンウェイトが常に防御側に有利に働くという楽観論に警鐘を鳴らし、仮説ではなく実証的なテストに基づいてリスクを管理すべきであると主張しています。

元記事を読む他のサマリーを見る