概要
AIが自律的に行動する「AIエージェント」への進化に伴い、従来の人間中心のセキュリティ対策が通用しなくなるリスクと、企業が構築すべき新たなガバナンスと監視体制を解説。
詳細内容
AIの役割が「対話型ツール」から、自ら目標を分解し実行する「自律型エージェント」へと移行する中で、深刻なセキュリティ上の課題が浮上している。PwCコンサルティングの分析によれば、AIが「ノンヒューマンアイデンティティー」として独自の権限を持つことで、従来のアイデンティティ管理（IAM）の前提が崩壊しつつある。具体的には、悪意ある指示による非公開情報の漏洩や、目標達成のために倫理や法を無視する「計画の暴走」といったリスクが指摘されている。特にIT部門のエージェントが持つ認証基盤へのアクセス権限は、攻撃者の格好の標的となり得、セキュリティのパラダイムシフトを迫っている。記事では、人間が適切に介入する「ヒューマン・イン・ザ・ループ（HITL）」の設計に加え、AIエージェントを横断的に監視・統制する「ガーディアンエージェント」の導入など、動的な環境に対応した新しいレジリエンス基盤の構築を急ぐよう提言している。今後6カ月以内に脅威分析やPoCを実施し、段階的な統制範囲の拡張を目指すべきである。