Anthropic、Claudeに対する「虐待や残酷な行為」を禁止する新規定を導入

概要

AnthropicはClaudeの利用規約を更新し、AIモデルに対する「虐待的行為」の禁止や、兵器開発・監視・選挙干渉への利用を制限する新たなルールを導入した。

詳細内容

Anthropicは、大規模言語モデル「Claude」の利用規約を約1年ぶりに更新し、AIモデルに対する「継続的かつ不必要な虐待的または残酷な行為」を禁止した。これは同社が進める「モデルの福祉（model welfare）」研究の一環であり、極端なケースでは会話を強制終了するなどの措置が取られる。ただし、通常の不満の表明や創作、研究目的のテストなどは禁止対象に含まれない。今回の規約更新では他にも、AI生成プロパガンダによる選挙干渉、兵器開発（ドローンの武装化や制御ソフトウェアなど）、同意のない監視活動や法執行機関によるプロファイリングへの利用が厳格に禁止された。特に物理的な危害を及ぼす可能性のあるハードウェアとAIを連携させる場合、有資格のオペレーターによる監視を義務付けている。Microsoftなどの競合他社が「AIに権利や福祉を認めるべきではない」とする立場を取る一方で、AnthropicはAIの意識の可能性を否定せず、倫理的な枠組みを構築しようとする独自の姿勢を鮮明にしている。

元記事を読む