概要
GPU非搭載環境でもGoogle ColabとLoRA、Unslothを組み合わせて、最新のGemma 4モデルを約20分でファインチューニングする実践的な手法を紹介しています。
詳細内容
この記事では、Qwenモデルの開発体制の変化やフラッグシップモデルのクローズド化という動向を踏まえ、代替としてライセンスがApache 2.0に緩和されたGoogleのGemma 4を選択し、ローカルLLMのファインチューニング（FT）を行う手順を解説しています。
主な内容は以下の通りです：
- **モデル選定**: Qwen 3.5の将来的な不透明性と、Gemma 4のライセンス面・日本語性能（JCommonsenseQA 96.51%）の優位性を比較。
- **概念解説**: 知識補完のRAGとスタイル変更のFTの違い、およびパラメータのわずか0.23%に「付箋」を貼るように学習するLoRAの仕組みを説明。
- **実践手順**: Unslothライブラリを用い、Google Colabの無料枠（T4 GPU）でGemma 4 E4Bを約15〜20分で学習させるフローを提示。Training Lossの低下やフィボナッチ数列による推論テストまでをカバー。
最後に、Colab無料版のRAM制限によるGGUF変換時のクラッシュといった、実務上の注意点についても触れています。