Raspberry Pi 5のGPUでエッジAIを実現：IgaliaがWebGPU対応を強化

概要

IgaliaがRaspberry Pi 5のV3DV VulkanドライバにおけるWebGPUサポートを強化し、LiteRTを用いたGPU上での効率的なAI推論を可能にしました。

詳細内容

Google AI EdgeとRaspberry Piの共同発表を受け、IgaliaはRaspberry Pi 5のVideoCore VII GPU上でAIモデルを高速化するための技術的詳細を公開しました。具体的には、Googleのオンデバイス推論ランタイム「LiteRT」のWebGPUバックエンドが動作するよう、MesaのV3DV Vulkanドライバに実験的なWebGPUサポートを追加しました。これにより、物体検出などの継続的なワークロードをGPUにオフロードし、CPUのリソースをGemmaのような大規模言語モデル（LLM）やアプリケーションロジックに割くことが可能になります。本機能は最新のRaspberry Pi OSにて環境変数 `V3D_WEBGPU_OVERRIDE=1` を設定することで有効化でき、アップストリームのMesaプロジェクトにも貢献が反映されています。

元記事を読む他のサマリーを見る