概要
CursorのTravis McPeak氏が、AIエージェントの非決定性とプロンプト注入リスクを指摘し、静的なIAMではなく動的な最小権限モデルによるセキュリティ構築の重要性を説く。
詳細内容
AIネイティブIDE「Cursor」のセキュリティ責任者であるTravis McPeak氏へのインタビューまとめ。AIエージェントは、人間と異なり「非決定的（同じ入力でも挙動が変わる）」であり、責任を負うことができないため、決して信頼してはならないと警鐘を鳴らしています。エージェントは外部データ（メールやドキュメント）を処理する際、SQLインジェクションと同様の構造的欠陥である「プロンプト注入」のリスクを常に抱えています。これに対し、従来の静的なIAM（ID・アクセス管理）では対応が困難であり、「常時権限ゼロ」の状態から必要な時だけ特定のプロファイルに基づいてアクセスを許可し、全ての挙動を監査する「動的な最小権限モデル」の導入を推奨しています。また、開発速度を落とさないために、セキュリティ・ポリシーの自動生成とレビューにLLMを活用する「Policy as Code」の有効性についても言及されています。