Gemma 4 vs Qwen 3.5 — DGX Spark × llama.cpp でMoEモデル対決ベンチマーク

概要

DGX Spark環境にてllama.cppを用い、Gemma 4とQwen 3.5のMoEモデルを日本語推論能力とマルチモーダル性能の2軸で徹底比較した技術検証記事。

詳細内容

Googleの最新モデルGemma 4と、軽量・高速なMoEモデルとして定評のあるQwen 3.5-35B-A3Bを、NVIDIA DGX Spark上のllama.cppランタイムで比較。日本語常識推論（JCommonsenseQA）では、Gemma 4 F16（96.51%）とQwen 3.5 MXFP4（96.16%）でほぼ互角の品質を示したが、推論速度（Token Generation）ではQwen 3.5が2倍以上高速であり、VRAM効率も優れている。また、両モデルに搭載された「Thinkingモード」は、知識系タスクにおいてはいずれも正解率を低下させる「考えすぎ」の傾向が確認された。一方で、Gemma 4はApache 2.0ライセンスという実用上の大きな強みを持つ。帯域律速なハードウェア環境におけるMoEモデルの特性や、量子化による影響、llama.cppにおける最新のバグ状況まで網羅的に解説されている。

元記事を読む他のサマリーを見る