概要
Gemini Enterprise Agent Platformにおいて、AIエージェントの推論トレースやツール実行フローを非同期に分析し、OWASP Top 10に基づく振る舞いの異常を検知する新機能が公開されました。
詳細内容
Googleは、自律型AIエージェントの安全性を確保するための推論ベースの監査レイヤー「Agent Anomaly Detection」をプライベートプレビューとして発表しました。この機能は、従来のエラーベースの監視では見逃されがちな「外見上は正常だが、不適切なツール呼び出しや権限拡大を行う振る舞い」を特定します。
主な特徴は以下の通りです：
- **実行レイテンシなし**: 非同期でログやトレースを分析するため、エージェントの応答速度に影響しません。
- **OWASP準拠**: OWASP Agentic Top 10 (2026) に基づくツール誤用やリソース枯渇などの検知器を標準搭載しています。
- **階層的な分析パイプライン**: 統計的な異常検知による一次スクリーニングと、LLMを用いた詳細な推論分析を組み合わせることで、精度の高い検知を実現します。
- **即時アクション**: Security Command Centerとの統合に加え、API経由で異常を検知したセッションをプログラムからブロックすることも可能です。
今後は、ビジネス固有のガイドラインに基づいたカスタム検知ロジックの定義機能も追加される予定です。