Vercelを活用し12万社のCMOエージェントを運用するOkaraの事例

概要

わずか4人のチームで12万社のAIマーケティングを自動化するOkaraが、Vercel AI GatewayとSandboxを駆使して1日40億トークンを処理する技術構成を解説しています。

詳細内容

AI CMOプラットフォーム「Okara」は、SEO、SNS、コンテンツ制作などを代行する専門のエージェント群を運用し、12万社以上の企業の成長を支援しています。わずか4名のエンジニアでこの規模を支えるため、同社はVercelのインフラを最大限に活用しています。具体的には、Vercel AI Gatewayの導入により、8つの異なるモデルプロバイダーを単一のAPIで管理し、リトライ処理やフォールバック、課金管理のオーバーヘッドを解消。新しいAIモデルがリリースされた当日にユーザーへ提供できるスピード感を実現しました。また、エージェントがサイト分析コードを実行する隔離環境としてVercel Sandboxesを利用し、安全かつ即座にSEO改善のプルリクエストを生成するフローを構築しています。インフラを隠蔽し、プロダクト開発に専念することで、1日40億トークンという膨大なトラフィックの処理を少人数で可能にしています。

元記事を読む他のサマリーを見る