概要
安価なGemma 4 31BとS3 Vectorsを組み合わせ、Amazon Bedrock AgentCoreを用いて月額数ドル程度で運用可能な低コストRAGシステムの構築方法を解説します。
詳細内容
この記事では、Gemma 4 31Bの圧倒的な低コスト（入力 $0.14 / 1M tokens）を活かし、ベクトルストアにサーバーレスで安価な「S3 Vectors」を採用したRAG（検索拡張生成）の構築例を紹介しています。主な特徴は以下の通りです：
- **技術スタック**: Bedrock AgentCoreを中核に、Strands Agents SDK、Amplify Gen 2、Cognitoを使用した実用的なアーキテクチャ。
- **コスト最適化**: 月額固定費が高いOpenSearch Serverless（$350〜）の代わりに、完全従量課金のS3 Vectorsを利用することで、検証・PoC用途のコストを劇的に削減。
- **機能実装**: AgentCore Memoryによる会話履歴の保持、AgentCore Gateway経由のMCPツール（AWSドキュメント検索）連携、ユーザーフィードバック収集機能を網羅。
- **評価システム**: Gemma 4 31B自身を審査員とする「LLM-as-a-Judge」による回答精度（Faithfulness, Relevancy, Completeness）の自動評価スクリプトを提供。
S3 Vectorsのメタデータ制限やハイブリッド検索非対応といった制約を理解しつつ、スモールスタートでRAGを導入するためのテンプレートとして非常に有用な内容となっています。