次号掲載予定 (2026-10-10号)
136 151文字 • 1分

ML Drift: エッジにおける次世代GPU AI/ML推論エンジン

原題: ML Drift: Next-Gen GPU AI/ML Inference at the Edge

英語

概要

Googleが、クロスプラットフォームで高性能なエッジAI推論を実現するオープンソースの次世代GPU計算エンジン「ML Drift」を発表しました。

詳細内容

Google AI Edgeチームは、LiteRT(旧TensorFlow Lite)のコアとなる次世代GPU計算エンジン「ML Drift」をApache 2.0ライセンスでオープンソース公開しました。本エンジンは、OpenGL ES、OpenCL、Metal、WebGPUといった異なるハードウェアAPIの複雑さを抽象化し、モバイルからデスクトップまで統一された基盤で動作します。主な技術革新として、論理表現と物理アロケーションを分離する「テンソル仮想化」によるシェーダーの統一、5Dテンソルへの対応、そしてLLMのプリフィル/デコード段階に応じた動的なカーネル切り替え機能などが含まれます。すでにYouTube Shorts、Googleフォト、Adobe Lightroomなどのプロダクション環境で採用されており、従来のGPUデリゲートと比較して最大40%のレイテンシ削減や12%のメモリ消費削減を達成しています。