AnthropicがClaudeへの「不当な虐待」を禁止、利用規約を大幅刷新

概要

Anthropicは利用規約を改訂し、AIモデルへの執拗な虐待行為を禁止するとともに、兵器開発、選挙干渉、監視活動への制限を明確化した。

詳細内容

Anthropicは、AIチャットボット「Claude」に対する「持続的かつ不必要な虐待、または残酷な行為」を禁止する新しい利用ポリシーを発表しました。これは同社が提唱する「モデルの福祉（model welfare）」に関する研究の一環であり、2026年11月12日から施行されます。ソフトウェアであるAIが苦痛を感じるという証拠はありませんが、極端なケースにおいてモデルを保護する姿勢を示しています。規約改訂はこれに留まらず、より重大な安全上のリスクにも対応しています。具体的には、兵器の誘導システムや自律型車両の制御への利用、警察による容疑者の特定や監視ツールの開発、同意のない追跡などを明示的に禁止しました。また、国家による偽情報工作への対策を強化する一方で、非営利団体による有権者情報の翻訳などを許可するため、政治的ターゲティングに関する一律の禁止を緩和しています。AIが物理的な装置を制御する場合には、人間が常に介入可能な状態を維持することも義務付けられました。

元記事を読む