AIモデルルーティングのための統合API

概要

Google Cloud API Gatewayが、OpenAI互換リクエストをGeminiやClaude等の複数モデルへ動的にルーティングし、スキーマ変換まで自動化する新機能を公開。

詳細内容

Google Cloud API Gatewayにて、マルチモデル運用を簡素化する「モデルルーティング」機能がパブリックプレビューとなりました。この機能は、OpenAI互換の入力を受け取り、OpenAPI 3.xの仕様に基づいて定義されたルールに従ってGemini、Claude、OSSモデル（Vertex AI等にホストされたもの）へ動的にリクエストを振り分けます。サーバーレスかつ軽量なインプレイスレイヤーとして動作し、ゲートウェイ側でペイロードを各バックエンドのネイティブ形式に自動変換（トランスコード）するため、アプリケーション側のハードコーディングを排除できます。また、レート制限、トークン追跡、セキュリティガバナンスのためのAgent Gateway連携などのエンタープライズ機能もサポートされています。

元記事を読む他のサマリーを見る