Magnitude: デバイスごとにカーネルを最適化し、llama.cppより最大2倍高速なエージェント用推論エンジン
原題: GitHub - magnitudedev/magnitude: Open source inference engine for agents that optimizes itself for your exact hardware. Compiles and tunes its kernels on your device, so open models run up to 2x faster than llama.cpp. Works on Apple Silicon, NVIDIA, AMD, or just a CPU. · GitHub
英語掲載情報
2026年10月3日土曜日号
未掲載
概要
ユーザーのハードウェアに合わせてカーネルを自動コンパイル・チューニングすることで、llama.cppと比較して最大2倍の推論速度を実現するエージェント特化型のオープンソース推論エンジン。