月 100万件・ 50億トークンをローカルLLMで捌く - 明細名のストア情報マッピング

概要

機密情報を含む決済データの店舗名マッピングを、Gemma 4を用いたローカルLLM基盤で構築し、外部API比で約200倍のコスト効率と高精度な自動化を実現した事例。

詳細内容

Finatextグループのナウキャストにおける、クレジットカード決済データの「ストア名」をブランドマスターへ紐付けるエンジニアリング手法の解説です。決済システム特有の半角カナやノイズが多い文字列を処理するため、AWS上の閉域網でGemma 4をvLLMで運用。処理フローは、1.ストア名の構造化分解、2.ブランド推定とルールベースによるサブブランド補完、3.Web検索クエリ生成、4.Snowflakeのベクトル検索とLLMを組み合わせた名寄せ、の4ステップで構成されています。月間50億トークンの大規模処理において、外部API（GPT-5.4 mini想定）では月130万円かかるコストを数千円規模に抑え、機密情報の保護と実用的な推論速度（1,000件/3分）を両立させています。すべてをLLMに頼らず、確信度に応じたWeb検索の動的実行や、最終的なヒューマンチェックを織り交ぜた堅実な設計が特徴です。

元記事を読む他のサマリーを見る