エージェンティック・トラスト・コントロール：AIエージェント特有のリスクに対応するガバナンスフレームワーク

概要

ISO 27001やISO 42001を補完し、AIエージェント固有の自律性や記憶、指示の完全性を保護するための65のセキュリティ管理策を提供するオープンソースフレームワーク。

詳細内容

AIエージェントの急速な普及に対し、既存のセキュリティフレームワーク（ISO 27001/42001）だけでは不十分な領域を補うための新しい管理策セット「Agentic Trust Controls (ATC)」が登場しました。このプロジェクトは、AIエージェントが持つ自律的なアクションや長期記憶、プロンプト注入（インジェクション）などの特有のリスクを管理することを目的としています。主な特徴として、12のドメインにわたる65の管理策を提供し、エージェントを構築する「開発者向け（43項目）」と他社製エージェントを導入する「利用者向け（22項目）」の2つのベースラインが用意されています。これにより、組織はゼロからガバナンスを構築することなく、既存のISO規格を拡張する形で迅速に安全なAI導入を進められます。また、今後はMCP（Model Context Protocol）サーバーとしての提供も予定されており、AIツールが直接これらの管理策を参照・遵守できる仕組みが構築される予定です。

元記事を読む他のサマリーを見る