概要
AI（LLM）を防御に活用する鍵は、モデルの性能よりも、自社環境（ログ、ツール、組織構造）に関するドキュメント化された詳細なコンテキストをAIに提供することにある。
詳細内容
1Passwordのセキュリティチームが、AI（LLM）を検知エンジニアリング（Detection Engineering）に導入する際の教訓と戦略を解説しています。主なポイントは、単なるプロンプト入力（コールドプロンプティング）では、SIEMで動作しないクエリや不正確なプレイブックが生成されるという「Garbage In, Garbage Out」の課題です。
これを解決するために、チームは以下の「コンテキスト（背景情報）」をAIに提供するためのドキュメント整備を推奨しています。
1. **ログ・インベントリ**: データの所在、形式、ベンダー資料。
2. **検知ライブラリ**: 既存の検知ルールとATT&CKマッピング。
3. **ツール・インベントリ**: 調査に使用するツールの所有者とアクセス先。
4. **エンティティ・プロファイル**: 最重要資産（クラウンジュエル）やVIP、攻撃経路の定義。
5. **IaC（Infrastructure as Code）**: パースや正規化の定義をコードとして提供。
これらの情報を整備することで、ログパイプラインの構築期間を数日から1時間に短縮し、自動化された脅威モデリングや検知ルールの作成が可能になります。また、プロンプトインジェクションへの対策や人間によるレビューの重要性についても触れています。