AIエージェントのメモリ・コンテキスト汚染：攻撃者による長期記憶の改ざんを防ぐための防御策

概要

AIエージェントの長期記憶やRAGを悪意あるデータで汚染し、セッションを跨いで永続的に誤作動を引き起こす「メモリ汚染」の脅威と、その多層防御戦略を解説する。

詳細内容

AIエージェント特有のセキュリティリスクである「メモリおよびコンテキスト汚染（OWASP ASI06）」に焦点を当てた解説記事です。プロンプトインジェクションとの最大の違いは、攻撃と被害が時間的に分離されること、およびエージェントが自身の記憶を「絶対的な事実」として無批判に信頼する点にあります。MemoryGraftやMINJAといった具体的な攻撃手法を紹介しつつ、RAGナレッジベースの汚染、会話要約の操作、エージェント間汚染といった侵入経路を特定。対策として、入力時の信頼度検証、データ出自（プロバンス）の追跡、システム・ユーザー・エージェント間でのメモリ分離、時間の経過に伴う情報の重み付け減衰、そして長期的な挙動のドリフト（変遷）監視といった、AIインフラ層での多層防御の必要性を説いています。

元記事を読む他のサマリーを見る