LiteRTとNPUによる実用的なオンデバイスAIの構築：Googleの最新動向

概要

Googleが提供するLiteRT（旧TensorFlow Lite）がNPUをフル活用し、モバイルやIoT、AI PC上で高性能・省電力なAI体験を実現する最新のアップデートと成功事例を公開しました。

詳細内容

Googleは、オンデバイスAIフレームワーク「LiteRT」におけるNPU（Neural Processing Unit）アクセラレーションの進化と実用例を発表しました。LiteRTはCPUやGPUに加え、複雑なNPU SDKを抽象化する統一APIを提供し、開発者がハードウェア固有のコードを書かずに多様なSoCの性能を引き出せるようにします。具体例として、Google Meetでの25倍大規模なモデルの低消費電力動作、Epic GamesのLive Link Faceでの30 FPSリアルタイム顔アニメーション、Argmax IncによるGPU比2倍以上の音声認識速度の達成などが挙げられています。さらに、最新のGemma 4モデルへの最適化、IoT向けのQualcomm DragonwingやAI PC向けのIntel Core Ultraとの統合、そして100機種以上の実機ベンチマークが可能なAI Edge Portalの提供により、開発者はデータの裏付けを持ってデプロイの意思決定を行えるようになります。

元記事を読む他のサマリーを見る