全社に OpenCode + LiteLLM を導入してコストを抑えつつ AI 活用を進めている話

概要

日本トレカセンターが、OpenCode と LiteLLM を組み合わせた AI ゲートウェイ基盤を構築し、ガバナンスの確保と AI 利用コストを 10 分の 1 以下に削減した事例。

詳細内容

日本トレカセンターにおける、AI ツールの乱立とコスト増大を解決するための全社的な AI 導入事例です。フロントエンドに AI エージェントの「OpenCode」、バックエンドに LLM ゲートウェイの「LiteLLM」を採用し、全社員約 200 名が同一の入り口から AI を利用する環境を整えました。LiteLLM の採用により、各社員への週次予算上限設定、プロンプトのログ取得、モデルの動的切り替えが可能になっています。特に、モデルを直接指定せず「Low/Mid/High/XHigh」といった「effort（労力）」ベースの名称で抽象化することで、利用者の設定を変えずに裏側のモデル（DeepSeek 等）を最適化できる運用を実現しています。また、Cloudflare の MCP portal を利用した MCP サーバーの一本化や、非エンジニアでも容易なワンライナーによる配布など、運用の効率化とコスト削減（導入前の 10 分の 1 以下）を両立させた構成となっています。

元記事を読む他のサマリーを見る