Agent Router: Envoyベースの多機能エージェントAI向けゲートウェイ

概要

Envoy Proxyを基盤とし、多様なLLMプロバイダーへの統一APIアクセス、MCPツール管理、認証・トラフィック制御を統合するOSSプロジェクト。

詳細内容

Envoy AI Gatewayが「Agent Router」に改称され、Agentic AI Foundationプロジェクトとして新たにスタートしました。Envoy Proxyの堅牢なトラフィック制御機能を活用し、Anthropic、Bedrock、Vertex AI、Azureなどの異なるLLMプロバイダーを単一のOpenAI互換APIで抽象化します。主な特徴として、プロバイダー間のフェイルオーバー、チームやアプリ単位のトークン制限、認証情報の集約管理、そしてMCP (Model Context Protocol)ツールのカタログ化とフィルタリング機能を備えています。ローカル環境からKubernetesでの本番運用まで対応しており、OpenTelemetryによる推論プロセスの可観測性も提供します。

元記事を読む他のサマリーを見る