Claudeにおけるテキストウォーターマーク（電子透かし）の仕組み

概要

Anthropicは、EU AI法への準拠を目的に、Claudeの生成テキストに品質やコストを損なうことなく不可視の統計的パターンを埋め込む「電子透かし」技術の導入と詳細を公開しました。

詳細内容

Anthropicは、将来のClaudeモデルに導入されるテキストウォーターマーク（電子透かし）の技術的詳細を解説しました。この施策はEU AI法（EU AI Act）への準拠を目的としており、Google DeepMindが提唱した「SynthID-Text」手法に基づいています。 ### 技術の仕組み LLMが次の単語を選択する際の「ランダム性のソース」に特定の鍵を用いることで、人間には判別不能だが、特定のキーを持つ検証者には検出可能な統計的パターンを埋め込みます。文章の品質、創造性、生成速度、コストには一切影響を与えません。 ### 特徴と制限 1. **プライバシー**: ユーザーや組織を特定する情報は含まれず、あくまで「Claudeが生成に関与したか」のみを判定します。 2. **適用条件**: 事実に基づく記述やコード生成のように選択肢が限られる場合は、透かしの強度が弱まります。 3. **堅牢性**: 軽微な編集では消失しませんが、完全な書き換えによって除去される可能性があります。 ### 今後の展開 Anthropicは、この透かしを検証するためのAPIを近日中に提供する予定です。また、画像等のファイルについてはC2PA標準に基づいたメタデータ付与も実施しています。

元記事を読む他のサマリーを見る