概要
Claude Fable 5の利用停止を機に、リスク回避策としてUbuntu上のOllamaで軽量モデルGemma 4 E2Bを動作させ、代替環境を構築する手順の解説。
詳細内容
### 概要
クラウドAIサービスの突然の停止（Fable 5）を受け、開発環境の冗長化を目的にUbuntu 22.04上でローカルLLM「Gemma 4 E2B」を導入した記録です。
### 主な内容
- **導入の背景**: クラウドサービスが利用不能になるリスクを考慮し、最低限のテキスト生成やコマンド確認ができるローカル退避先を確保。
- **モデル選定**: VRAM 4GBのGTX 1650という環境に合わせ、Ollamaで即座に実行可能な軽量版「gemma4:e2b」を採用。E2Bはエッジ向けの実効パラメータモデルであり、省リソースでの動作に強みを持つ。
- **セットアップ手順**: Ollamaの公式スクリプトによるインストールから、`ollama run` コマンドによる対話実行、API経由での呼び出し方法までを簡潔に紹介。
- **運用のヒント**: VRAM容量に応じたモデルサイズ（e4b, 12b, 26b, 31b）の選択肢や、不要になったモデルの削除方法についても言及。
### 結論
Ollamaを活用することで、低スペックなGPU環境でも実用的な日本語LLM環境を極めて容易に構築できることが実証された。