NVIDIA NVLink Fusionが次世代AIインフラにNVHBMを導入

概要

NVIDIAは、カスタムAIアクセラレータ（XPU）の設計・展開を効率化するIP「NVLink Fusion」と、帯域幅、面積、電力効率を劇的に向上させるカスタムHBM技術「NVHBM」を発表しました。

詳細内容

NVIDIAが発表した「NVLink Fusion」は、ハイパースケーラーやAI企業が自社開発のAIアクセラレータ（XPU）やCPUを、NVIDIAのAIプラットフォームやMGXラックアーキテクチャへ容易に統合可能にするIPおよび接続テクノロジーです。その鍵となる「NVHBM」は、主要メモリベンダーと検証されたカスタムHBMベースダイ技術であり、標準的なHBM4eと比較してメモリ帯域幅を最大30%向上させ、電力消費を15%削減します。特筆すべきは、物理インターフェース（PHY）を67%縮小し、メモリコントローラを3Dスタック内に統合することで、同一パッケージ内の計算用ダイ面積を最大25%拡大できる点です。これにより、開発者は独自のXPUにおいて計算エンジンやキャッシュをより多く配置でき、大規模モデルの推論や学習のスループットを最大化することが可能になります。

元記事を読む他のサマリーを見る