マウス「DAIV」128GBメモリ搭載PCによる大型ローカルLLMの実機検証レポート

概要

128GBの広大なメモリを持つミニPC「DAIV CX-A9A60」を用い、通常のGPUでは動作困難な80GB級の大型ローカルLLMが実用レベルで動作することを検証した詳細レビュー。

詳細内容

マウスコンピューターの「DAIV CX-A9A60」は、Ryzen AI Max+ 395と128GBのユニファイドメモリを搭載したローカルLLM特化型のミニPCである。本記事では、最大96GBのVRAM割り当てが可能な特性を活かし、VRAM 24GB/48GBのハイエンドdGPU搭載機では動作しない「Qwen3.8-Flash-Next」（81.27GB）や「gpt-oss-120b」等の大型モデルの動作性能を検証している。検証の結果、80GB超のモデルでもチャット用途に十分な応答速度を維持し、約26万トークンの長大コンテキスト処理や25ページのPDF文書解析を安定して実行できることが確認された。dGPU機と比較して中型モデルの推論速度では劣るものの、クラウド級の品質を持つ大型モデルを手元で動かせる点は、機密情報の取り扱いやサブスクリプション費用を避けたい企業・研究者にとって強力な選択肢となる。Windows環境でLM Studio等を用いて容易に導入できる点も大きなメリットである。

元記事を読む他のサマリーを見る