概要
AWS EC2上でOllamaとAmazon Bedrock、そしてOSSのdeepwiki-openを組み合わせ、高価なPCなしで社内リポジトリをWiki化・QA対応させる構築ガイド。
詳細内容
### 概要
高性能なGPU搭載PCを持たない開発者が、AWSのクラウド資源を活用してローカルLLMベースの社内Wikiシステム「deepwiki-open」を構築する手法を解説しています。GitHubのプライベートリポジトリを対象としたセキュアな情報管理と、対話型インターフェースによる知識共有の自動化が目的です。
### 主な技術構成と手順
1. **実行環境**: EC2 (g4dn.xlarge) 上でDockerコンテナを稼働させ、NVIDIAドライバやOllamaをセットアップ。
2. **ハイブリッドLLM利用**: 埋め込みモデルにOllama (nomic-embed-text)、文章生成にAmazon Bedrock (Claude 3.5 Sonnet) を活用し、コストと精度のバランスを調整。
3. **トラブルシューティング**: 構築過程で遭遇した「モデル設定が反映されない問題」の解決策（docker-composeのボリュームマウント修正）や、WebSocket接続、EC2環境特有のエラーといった実践的なハマりポイントを共有しています。
### 結論
deepwiki-openを用いることで、リポジトリから自動的にアーキテクチャ図や機能解説を含むWikiが生成され、開発のキャッチアップコストを大幅に削減できる可能性が示されています。