掲載済み (2026-06-13号)
230 105文字 • 1分

新しく出たGemma4-E2B-QATを試してみる

日本語
zenn.dev/aiforall

掲載情報

2026年6月13日土曜日号 未掲載

概要

Googleの最新軽量モデルGemma4-E2B-QATを、OllamaとOpen WebUIを用いてローカルのCPU環境で動作させ、テキスト・画像認識の性能を検証したレポート。

詳細内容

Googleが公開したQAT（Quantization-Aware Training）最適化モデル「Gemma4-E2B-QAT」の導入・検証記事です。QATは学習段階から量子化を考慮する手法で、通常の量子化(PTQ)より精度劣化を抑えつつ軽量化が可能。本記事ではWSL2上のDocker環境でOllamaとOpen WebUIを使用し、GPUなしのCPU推論（Core i7, 16GB RAM）で実行。テキスト生成では演算やコード生成に成功する一方、文字カウントに失敗。画像認識では一部テキスト抽出を確認しました。推論速度は約18-19トークン/秒を記録し、軽量モデルとしての実用性と限界を明らかにしています。
元記事を読む 他のサマリーを見る