概要
TypeScript製AIエージェントフレームワーク「Mastra」を活用し、バックエンドAPIとの統合、Langfuseによる可観測性の確保、プロンプト管理を実践した本番運用の知見を解説。
詳細内容
サイバーエージェントの開発チームによる、TypeScript製AIエージェントフレームワーク「Mastra」の本番運用事例です。MastraがVercel AI SDKベースであり、Honoを用いたHTTPサーバー機能を内蔵している点を活かし、バックエンドAPIとエージェント機能を単一のサーバー(モノリス)として構築。これにより、クリーンアーキテクチャにおけるドメイン層のロジックをAIの「Tool」として効率的に再利用しています。
運用の鍵となる可観測性については、OpenTelemetry準拠のMastraをLangfuseと連携。GKE Autopilot上にセルフホストしたLangfuseを用いて、複雑なエージェントの処理工程(トレース)やトークンコストを可視化しています。また、プロンプトをコードから分離してLangfuse上で管理することで、デプロイなしでの即時反映やバージョン管理、非エンジニアとの共有を可能にしました。破壊的変更への追従という課題はあるものの、開発スピードとデバッグのしやすさを両立する構成となっています。