概要
Googleは、270Mの超軽量モデル「FunctionGemma」を使用して、AndroidおよびiOSデバイス上でオフラインかつ高速に動作する関数呼び出し（Function Calling）機能を発表しました。
詳細内容
Googleは、オンデバイスAIのショーケースアプリ「Google AI Edge Gallery」の主要なアップデートを公開しました。今回のアップデートにより、270Mパラメータという極めて軽量な「FunctionGemma」モデルを用いて、モバイルデバイス上での関数呼び出し（Function Calling）が可能になりました。これにより、オフライン環境下でもプライバシーを保護しながら、カレンダーの作成や地図の操作、設定変更などの「エージェント型」の対話体験を低遅延で実現できます。また、Androidに加えてiOS版もリリースされ、クロスプラットフォームでの開発が容易になりました。さらに、LiteRT（旧TensorFlow Lite）による最新のパフォーマンスベンチマーク機能がアプリ内に統合され、Pixel 7 Proなどのデバイスで秒間100トークンを超えるデコード速度を確認できるなど、実用性の高さが示されています。