OpenAIが自社LLMを活用して開発したAIアクセラレーター「Jalapeño」の詳細を公開

概要

OpenAIは、自社のLLMを活用して設計プロセスを劇的に加速させ、NvidiaのGB300を凌駕する推論性能を持つ独自AIチップ「Jalapeño」を開発した。

詳細内容

OpenAIが開発した初のAIアクセラレーター「Jalapeño（ハラペーニョ）」の詳細が明らかになりました。このチップは、HBM4メモリを採用し、Nvidiaの現行主力製品であるGB300と比較して、推論レイテンシを最大3.6倍削減し、消費電力も抑えることに成功しています。特筆すべきはその開発スピードです。コンセプト立案から実シリコン化まで20ヶ月未満、設計コード（RTL）作成からテープアウトまではわずか9ヶ月という、従来の半導体開発の常識を覆すタイムラインで進められました。これを可能にしたのがOpenAIのLLM（大規模言語モデル）の活用です。約100名の少数精鋭チームは、Googleが開発した「XLS（Accelerated Hardware Synthesis）」などの高位合成ツールとLLMを組み合わせ、ソフトウェア開発に近い感覚でハードウェアを記述。LLMによるコード生成と高速なイテレーションにより、設計負荷を大幅に削減しました。また、物理設計や製造についてはBroadcomと提携しつつ、チップ完成後のソフトウェア最適化（カーネル性能向上）にもAIを投入。数週間かかる作業をわずか40時間で完了させ、理論限界の89%に達する性能を引き出すなど、ハード・ソフト両面でAIによる自動化の威力を示しています。

元記事を読む他のサマリーを見る