LLMの合議制（Jury）、プロンプト最適化、マルチモーダルAIを活用した食品メタデータの構築

概要

DoorDashは、LLMの合議制による評価、自動プロンプト最適化、および分散処理を組み合わせ、膨大かつ非定型な食品データの高精度なメタデータ化を低コストで実現する基盤を構築した。

詳細内容

DoorDashは、膨大なレストランメニューの非定型データを構造化するため、AI主導のメタデータプラットフォームを開発しました。主要な技術として、複数のLLMで評価を行う「LLM Jury」システムを導入し、人間を超える20%高い精度でのラベル付けを実現しました。また、強化学習に着想を得た「自動コンテキスト最適化」により、プロンプト開発速度を10倍、精度を20%向上させています。さらに、LLMを用いて高品質な教師データを作成し、小規模モデル（SLM）をファインチューニングすることで、性能を維持しつつ推論コストを90%削減しました。大規模分散処理の最適化により、数百万アイテムのメタデータ更新期間を1ヶ月以上から数日に短縮し、パーソナライズされた検索や発見体験の基盤を強化しています。

元記事を読む他のサマリーを見る