次世代のMeta MTIA：数千億規模のAI推論を支える独自シリコンの進化

概要

Metaは、FacebookやInstagramの推薦・ランキング機能を強化するため、処理性能と電力効率を大幅に向上させた次世代のAI推論アクセラレータ「MTIA」を発表しました。

詳細内容

Metaは、同社独自のAI推論アクセラレータ（MTIA）の最新世代を公開しました。この新チップは、Metaの広範なワークロード、特に計算負荷の高い推薦・ランキングアルゴリズムに最適化されています。先代モデルと比較して、計算能力とメモリ帯域幅を大幅に強化し、データセンターでの推論効率を向上させています。また、PyTorch 2.0を中心とした既存のソフトウェアスタックとシームレスに統合されるよう設計されており、開発効率を損なうことなく、Metaの大規模なサービス基盤における総所有コスト（TCO）の削減とユーザー体験の向上に寄与します。

元記事を読む他のサマリーを見る