toC プラットフォームの AIチャットを支える技術

概要

知識共有プラットフォーム「Brain」におけるCS AIチャットの導入事例として、有人対応を67%削減した技術構成、RAGの検索ロジック、およびDevinを活用した運用自動化を解説しています。

詳細内容

本記事では、実サービスに導入されたCS（カスタマーサービス）AIチャットのアーキテクチャと運用手法が詳述されています。主要な技術ポイントとして、APIサービスとの障害分離やSSE（Server-Sent Events）の特性を考慮した「チャット専用ECSサービス」の切り出し、OpenAI Vector Storeを用いたRAG構成、そして複数クエリ展開やリランクを組み合わせた高度な検索ロジックが挙げられます。特に興味深い点として、フロントエンドのコード変更をナレッジに同期させるCDパイプラインや、Slack上の会話からAIエージェント「Devin」がナレッジリポジトリを自動更新する仕組みが構築されており、開発負荷を抑えつつ回答精度を維持する実戦的な工夫が凝らされています。現在はユーザー固有データの参照を制限しつつも、高いカバー率（97.9%）を実現しており、プロダクトへのAI実装における好例といえます。

元記事を読む他のサマリーを見る