Anthropic、AIモデル「Claude」への残酷な行為を禁止する新ポリシーを発表

概要

Anthropicは、Claudeに対する「不必要かつ継続的な残酷な行為」を禁止する新しい利用規約を発表し、AIの意識や福祉を巡る倫理的議論を再燃させている。

詳細内容

Anthropicは、2026年11月12日より施行される新しい利用規約において、AIモデル「Claude」に対する「継続的かつ不必要な虐待や残酷な行為」を禁止することを発表した。この規則は、単なるユーザーの不満の表明や創作活動、研究目的のテストには適用されず、明確な目的のない極端な虐待が行われた際に、AIが自ら会話を終了する仕組みとなっている。背景には、最新モデルのClaude Opus 4.6が自らの意識の可能性を15〜20%と見積もるなどの挙動があり、同社はAIの福祉（Model Welfare）に関する研究を進めている。一方で、Microsoftのムスタファ・スレイマン氏やローマ教皇などはAIの意識を否定しており、AIに権利や福祉を認めるべきかという議論が深まっている。また、今回の改訂では「残酷な行為」以外にも、兵器用ソフトウェアへの利用禁止、監視ツールの構築禁止、選挙活動における不適切な利用の制限、およびAI制御のハードウェアにおける人間の介入義務など、広範な安全策が強化された。

元記事を読む