概要
https://www.anthropic.com/news/claude-new-constitution
詳細内容
## Anthropic、AIモデル「Claude」の新しい憲法を公開
https://www.anthropic.com/news/claude-new-constitution
**Original Title**: Claude's new constitution
AIモデルの価値観と行動指針を規定する「憲法」を刷新し、ルールベースの制約から意図の理解に基づく汎用的な判断力の育成へとシフトする。
**Content Type**: 📰 News & Announcements
**Language**: en
**Scores**: Signal:5/5 | Depth:3/5 | Unique:4/5 | Practical:3/5 | Anti-Hype:4/5
**Main Journal**: 80/100 | **Annex Potential**: 78/100 | **Overall**: 76/100
**Topics**: [[Constitutional AI, AI倫理, モデルトレーニング, Anthropic, 透明性]]
Anthropicは、AIモデル**Claude**の行動原理を規定する新しい「憲法」を公開した。従来の原則の羅列から、行動の「理由」や「背景」を詳細に説明する包括的な文書へと進化させている。これは、モデルがルールを機械的に守るだけでなく、複雑な状況下で抽象的な原則を適用し、汎用的な判断（**Generalization**）を下せるようにすることを目的としている。
憲法は、**Helpfulness**（有益性）、**Ethics**（倫理）、**Safety**（安全性）など5つの主要セクションで構成される。特に、安全性と有益性が衝突した際の優先順位を明確化し、モデルの行動設計における透明性を高めている。エンジニアは、API経由で利用するモデルの価値判断の根拠や、意図された振る舞いと意図しないエラーの境界を理解する手がかりを得られる。
**Constitutional AI**トレーニングの中核を成す本文書は**CC0ライセンス**で公開された。AIエージェントの行動設計や、モデルの安全性を考慮したシステム構築に携わる開発者は必読の内容だ。