概要
事後的なガードレールではなく、事前の「憲法」をアーキテクチャとして定義し、人間による承認プロセスと不変の監査ログを組み合わせることで、個人運用のAIエージェント群における事故ゼロを7ヶ月間達成した実践録。
詳細内容
## 概要
本プロジェクトは、個人で複数のAIエージェント（資産運用、情報収集、デプロイ等）を運用する開発者が、7ヶ月間にわたりインシデント・ゼロを達成したガバナンス手法を公開したものである。著者は、問題が起きてから対処する「ガードレール」ではなく、システムの根幹に据える「憲法（Constitution）」の重要性を説いている。
## 4つの基幹原則
1. **デフォルト・フェイルセーフ**: 全てのリスクある機能はデフォルトで無効化され、明示的なフラグがない限り動作しない。
2. **不可逆的操作へのヒューマン・ゲート**: 送金やデプロイ、削除といった取り返しのつかないアクションには必ず人間による介在を必須とする。
3. **全実行パスにおける同等強度の検証**: 「信頼された内部ショートカット」を排除し、あらゆる経路に同じ厳格なチェックを適用する。
4. **追記専用の活動台帳**: 全てのアクションと決定プロセスを編集不可能なログとして記録し、透明性と監査性を確保する。
## 考察と教訓
著者は「失敗の形状を観察してから立法する」というアプローチを提唱しており、実際のニアミス（サイレントなデータ劣化や、不透明なペイロードの送信試行など）を「判例」として憲法を更新し続けている。企業のようなセキュリティチームを持たない個人開発者にとって、この「憲法」は24時間稼働するシステムの信頼性を担保する唯一の防壁となる。ガバナンスは静的なルールセットではなく、実際の運用データに基づいて進化する「コモン・ロー（慣習法）」のような性質を持つべきだとしている。