概要
AIエージェントの実用性を高めるため、LLMを「判断とルーティング」に、プログラムを「安定した実行」に分離し、記憶や副作用の管理を構造化した設計手法についての解説。
詳細内容
個人用AIエージェント「Agent-Sin」の開発を通じて得られた、LLMとプログラムの最適な責務分離に関する知見をまとめた記事です。主なポイントは以下の通りです：
- **LLMとProgram Skillの分離**: LLMはユーザーの意図解釈と適切なスキルのルーティングのみを担当し、実際のAPI操作などはプログラム（スキル）として固定実装することで、実行の安定性と安全性を確保します。
- **人間も読める記憶管理**: 記憶をベクトルDBだけに閉じ込めず、Markdown形式で保存することで人間が内容を確認・修正できるようにし、AIとの「共有知識ベース」を構築しています。
- **スキル固有の状態管理**: SQLiteを使用して各スキルごとにデータベースを持たせ、食事ログやタスク履歴などを分離して管理することで、情報の混濁を防ぎポータビリティを高めています。
- **副作用の構造的保証**: LLMが「やったつもり」の嘘をつかないよう、副作用を伴う操作は構造化された実行結果のみを履歴に残し、LLMの自然言語による返答を物理的に捨てる仕組みを導入しています。
「何でもLLMにやらせる」のではなく、LLMを強力な道具としてプログラムに組み込む設計の重要性が強調されています。