概要
単発のベクトル検索に頼る「単純なRAG」が限界を迎える中、Cursorはマークルツリーを活用したエージェント型検索を導入し、コスト削減と精度24%向上を同時に達成した。
詳細内容
TurbopufferのCEOクバ・ログート氏が、従来の単純なRAG（単発のベクトル検索）の終焉と、Cursorに代表される「エージェント型検索」への移行を解説しています。主なポイントは以下の通りです：
1. **アーキテクチャの進化**: クエリを一度投げて結果をプロンプトに詰めるだけの従来手法から、エージェントがツールを使い分け、反復的に情報を探索・推論するループ型へと進化している。
2. **Cursorの技術革新**: マークルツリー（ハッシュツリー）を用いてコードの差分を正確に検出し、変更されたファイルのみを再インデックスする「コピーオンライト」方式を採用。これにより、インデックス作成コストを大幅に削減している。
3. **精度の向上**: オンラインA/Bテストの結果、特にコンポーザーモデルにおいて回答精度が24%向上。セマンティック検索により、大規模コードベースでの保持率も改善した。
4. **経済的制約**: AIコーディングツールのコストが急騰する中、埋め込みを「キャッシュ化された計算」と捉え、実行時のトークン消費を抑える効率的な検索設計が、単なる最適化ではなく企業の財務的生存条件になりつつある。