掲載済み (2026-02-28号)
#212 134文字 • 1分

llmfit - ハードウェア性能に基づき最適なローカルLLMを提案するCLIツール

原題: AlexsJones/llmfit: 497 models. 133 providers. One command to find what runs on your hardware.

日本語

掲載情報

概要

PCのCPU、RAM、GPU性能を自動検出し、490種類以上のモデルから実行可能なLLMをランク付けして提案・管理できるターミナルツール。

詳細内容

llmfitは、ユーザーのハードウェア環境(NVIDIA、AMD、Intel、Apple Silicon等)をスキャンし、各LLMが「実際に動作するか」を判定する実用的なCLIツールです。497のモデルと133のプロバイダーに対応しており、量子化レベル(Q8_0〜Q2_K)を考慮したメモリ見積もりや、MoE(混合専門家)アーキテクチャ特有のメモリ要件を自動計算します。対話的なTUI(Terminal UI)モードでは、スコア、速度、メモリ使用率に基づいてモデルを検索・フィルタリングでき、Ollamaやllama.cppなどのランタイムと連携してその場でモデルをダウンロードすることも可能です。ローカルLLMの導入において、スペック不足による起動エラーを防ぎ、環境に最適なモデル選びを効率化します。