Qwen3.8 27BをMac Studioでローカル実行：実測ベンチマークと活用ガイド

概要

Mac Studio M3 Ultraを用いて最新のQwen3.8 27Bモデルを検証し、前世代との速度比較や1-bit量子化の限界、実用的なRAM要件を明らかにした詳細レポート。

詳細内容

Mac Studio M3 Ultra (256GB RAM) を使用し、27.3Bパラメータの最新モデル「Qwen3.8 27B」のローカル実行性能を詳細に検証した記事です。主な結果として、Q4_K_M量子化での生成速度は約14 tokens/sであり、前世代のQwen3.6より速度は低下しているものの、回答が簡潔になったことで実質的な完了時間は同等という興味深い結果が出ています。また、Unslothの1-bit量子化（通称：脳損傷量子化）の実験では、速度は倍増する一方で論理的一貫性が著しく低下し、エージェント用途には不向きであることを示唆しています。推奨ハードウェアとして、Q4利用には32GB、Q2なら16GBのRAMを挙げています。262kの広大なコンテキストを活かしたRSS要約やPDF整理など、実運用における有用性についても言及されており、最新アーキテクチャ「qwen35」への対応として最新ランタイムの導入が必須であると注意喚起しています。

元記事を読む他のサマリーを見る