概要
画像生成AIの外部APIコスト削減を目的に、JevとClefを活用して不適切なリクエストを事前に遮断する2段階のバリデーション・システムを構築した実装事例。
詳細内容
株式会社ラディウス･ファイブによる、画像生成サービス「copainter」におけるコンテンツモデレーションの実装解説記事です。外部の画像生成モデル（Grok、Gemini等）はリクエストが拒否された場合でも課金が発生するという課題に対し、軽量な決定モデル「Jev」と「Clef」を用いて、事前にプロンプトと参照画像を検証するシステムを構築しました。
システムは2段階構成で、1段目のJev（テキスト特化）でプロンプトを46問の設問で判定し、2段目のClef Flash（画像・テキスト対応）で縮小された参照画像を含めた詳細な検証を行います。単一モデルでは捉えきれない「プロンプトと画像の組み合わせ」による違反を高精度に検知（AUCが向上）し、誤検知を抑えつつ外部API費用の無駄を削減しました。
実装面では、Cloudflare Workersでのキャッシュ活用、ロジスティック回帰によるスコア算出の最適化、クライアント側での画像リサイズ処理など、実用的な工夫が詳細に共有されています。新興のDecision Modelを実プロダクトへ統合するための具体的なベンチマークとアーキテクチャが示された、価値の高い技術資料です。