OpenAIがBroadcomとの共同開発による初のカスタムチップ「Jalapeño」を発表

概要

OpenAIはBroadcomと共同開発した推論特化型カスタムチップ「Jalapeño」を発表し、Nvidia依存の低減とインフラ全体の最適化によるコスト削減を狙う。

詳細内容

OpenAIは、Broadcomと共同で設計・製造した初のカスタム推論プロセッサ「Jalapeño（ハラペーニョ）」を公開しました。このチップは、OpenAI自身の推論システムが抱える固有の課題を解決するために開発され、初期テストでは既存の代替品を上回る優れた電力効率（パフォーマンス・パー・ワット）を記録しています。 **主な特徴と戦略的意義：** - **推論特化の設計**: ユーザーの要求に応じてモデルを動作させる「推論」フェーズに特化しており、特にリアルタイム・コーディングモデルの運用コスト低減に寄与します。 - **フルスタックの垂直統合**: ソフトウェア（モデル）からチップ、メモリシステム、ネットワーク、データセンターに至るまでのインフラ全層を自社で最適化することで、サービスの信頼性と低価格化を両立させます。 - **脱Nvidiaへの一歩**: 大規模な事前学習には引き続きNvidia製ハードウェアが必要となるものの、推論層を自社化することで、サプライヤーへの依存度を下げ、経済性を大幅に改善する計画です。開発プロセス自体にもOpenAIのAIモデルが活用されており、AIがAIのためのハードウェアを作るサイクルが具体化しています。

元記事を読む他のサマリーを見る