DeepSeek v4.1 Flashを動かしたくてFP4に対応していないA100を、33tok/sから673 tok/sまで持っていって気がつくと公式APIより速くなっていた話

概要

FP4非対応のNVIDIA A100環境でDeepSeek v4.1 Flashを最適化し、CPU演算の活用やカーネル起動の削減により、公式APIを超える最大673tok/sの爆速推論を実現した技術検証記録。