概要
https://speakerdeck.com/mzntaka0/llmshi-dai-dakarakosonojian-suo-nozhong-yao-xing-toying-yong
詳細内容
## LLM時代だからこその検索の重要性と応用
https://speakerdeck.com/mzntaka0/llmshi-dai-dakarakosonojian-suo-nozhong-yao-xing-toying-yong
LLM時代において検索の重要性が増し、「コンテキストエンジニアリング」へと進化していることを解説し、その応用を提示する。
[[LLM, 検索, コンテキストエンジニアリング, グラフニューラルネットワーク, Bi-Encoder]]
本発表は、大規模言語モデル（LLM）の普及に伴い、従来のキーワードマッチングに留まらない「検索」の重要性が高まっていると指摘します。特に、LLMが生成する回答の質を高めるためには、単なる情報検索ではなく、データの「コンテキスト」や「関係性」を深く理解した上での情報取得が不可欠であり、これを「コンテキストエンジニアリング」と定義しています。具体的な技術としては、構造化データ内の関係性を捉えるグラフニューラルネットワーク（GNN）を用いたコンテキスト認識型検索や、Bi-EncoderとCross-Encoderを組み合わせた高度な検索手法が紹介されています。これにより、LLMがより正確で関連性の高い情報を参照し、質の高いアウトプットを生成することが可能になります。
**編集者ノート**: Webアプリケーションエンジニアにとって、この「コンテキストエンジニアリング」の概念は非常に重要です。LLMを組み込んだアプリケーション開発において、単にプロンプトを工夫するだけでなく、バックエンドで提供するデータの質と構造がLLMの性能を大きく左右します。特に、ユーザーの意図や過去のインタラクション、関連するエンティティ間の関係性を考慮した検索システムを構築することは、ユーザー体験を劇的に向上させるでしょう。今後は、RAG（Retrieval-Augmented Generation）の進化形として、GNNやセマンティック検索を組み合わせた、より高度なコンテキスト認識型検索システムが標準的なアーキテクチャの一部となると予測します。これにより、LLMは単なるテキスト生成ツールから、真にインテリジェントな情報処理エンジンへと変貌を遂げるでしょう。