概要
OpenAIが自社開発した推論特化型ASIC「Jalapeño」は、HBM4の採用と高度なハード・ソフト協調設計により、NvidiaのBlackwellやRubinを超える電力効率とスループットを実現している。
詳細内容
OpenAIはHot Chipsにて、自社設計の推論用ASIC「Jalapeño（ハラペーニョ）」の詳細を公開した。Broadcomとの提携により、わずか16ヶ月という短期間で開発されたこのチップは、TSMCのN3Pプロセスと次世代メモリHBM4（帯域幅15.4TB/s）を採用している。特筆すべきは、NvidiaのBlackwellやRubinを電力効率（Perf/W）で上回るベンチマーク結果である。アーキテクチャ面では、あえてPrefillとDecodeを分離せず、小規模バッチや低レイテンシ環境でも高いスループットを維持する設計を選択。ソフトウェア層ではTritonベースの新言語「Gluon」を使用し、AI（Codex）による自動カーネル最適化を組み合わせることで、極めて高い開発速度を実現している。2,048 XPUまでスケールアップ可能なラックシステム構成も明らかにされており、2027年に向けて本格的な生産が予定されている。