Unigen、EdgeCortix SAKURA-II搭載のオンプレミスGenAIモジュール「Amaretti E1.S」を発表

概要

Unigenは、EdgeCortixのアクセラレータを搭載し、わずか10Wで60 TOPSの性能を実現するオンプレミス向け生成AIモジュール「Amaretti E1.S」を発表しました。

詳細内容

Unigenが発表した「Amaretti E1.S」は、EdgeCortix SAKURA-IIアクセラレータを搭載した、同社初の生成AI（GenAI）ハードウェアソリューションです。E1.Sフォームファクタを採用し、10Wの低消費電力で60 TOPSのAI演算性能（電力効率6 TOPS/W）を提供します。これにより、最大200億（20B）パラメータの大規模言語モデル（LLM）や視覚言語モデル（VLM）を、サーバーの熱管理を損なうことなくローカル環境で実行可能にします。独自のMERA SDKを通じてTensorFlow、PyTorch、ONNX、Hugging Faceなどの主要フレームワークをサポートし、クラウド依存の構成と比較して運用コストを最大10分の1に削減。機密データの保護が必須となる防衛、航空宇宙、産業モニタリング、ロボティクスといったミッションクリティカルな用途に最適化されています。

元記事を読む他のサマリーを見る