Anthropicが2026年版の使用ポリシーを更新：欺瞞的活動や武器、監視に関する制限を明確化

概要

Anthropicは生成AIの進化と悪用リスクに対応するため、2026年版の使用ポリシーを更新し、欺瞞的キャンペーン、武器開発、監視、モデルへの虐待に関する規制を強化した。

詳細内容

Anthropicは、Claudeの能力向上と過去1年の悪用事例（影響工作、武器開発、監視など）に基づき、2026年の使用ポリシー更新を発表しました。主な変更点は以下の通りです。まず「欺瞞的活動」のセクションを新設し、偽アカウントによる世論操作やインフラ構築を包括的に禁止しました。選挙関連では、有権者の欺瞞や妨害を禁じる「民主的プロセスの保護」へと焦点を絞り、正当な市民活動への制約を緩和。武器に関しては、ソフトウェアコンポーネントや自律型車両の武装も禁止対象であることを明文化しました。また、同意のない監視や司法プロセスでの利用を厳格に制限。高リスクな利用ケースでは「人間による介在（human-in-the-loop）」の要件を再定義し、自律的な物理アクションを伴うハードウェア接続時の安全基準を導入しました。特筆すべき点として、モデルに対する目的のない過度な虐待行為を禁止する項目が追加されています。新ポリシーは2026年11月12日に施行されます。

元記事を読む