AIのルールを定義するのは誰か？カルテルではなく証拠に基づいた標準の必要性

概要

CohereのCEO、Aidan Gomez氏が、一部のAI企業による「安全」を名目とした独占的なルール作りを批判し、科学的根拠と民主的プロセスに基づいた4つの安全基準の柱を提唱している。

詳細内容

CohereのCEO、Aidan Gomez氏は、Anthropicなどの競合他社が提唱する「安全確保のための反トラスト法適用除外」の要求を、既存企業の市場支配を固定化させる「カルテル」であると厳しく批判した。一部のシリコンバレー企業が密室でルールを決定し、他者に強いる現状の危うさを指摘。氏は代替案として、1. 国際的な専門家による証拠に基づいたリスクフレームワーク、2. 開発プロセスの透明性義務化、3. 規模（計算量）ではなく具体的な危険能力に着目したスコープ限定型のテスト、4. 利害関係のない第三者による真の保証メカニズム、の4つの柱を提案している。SF的な破滅論や「予感」に依存するのではなく、科学的な証拠と多様なステークホルダーの関与によって、AIの安全性と競争を両立させるべきだと論じている。

元記事を読む他のサマリーを見る