iPhoneの中で200億パラメーターAIが動く時代、来ちゃった

概要

アップルが発表した第3世代AI基盤モデル「AFM 3 Core Advanced」は、疎活性化アーキテクチャーとストレージ活用の工夫により、200億パラメーター規模のAIをiPhone上で動作させます。

詳細内容

アップルは第3世代のAI基盤モデル「Apple Foundation Models (AFM 3)」を発表しました。注目は端末内で動作する「AFM 3 Core Advanced」で、200億ものパラメーターを持ちながら、MoE（混合エキスパート）に近い「疎活性化アーキテクチャー」を採用。1回の処理で使用するパラメーターを10億〜40億に絞り込むことで、Appleシリコン上での効率的な推論を実現しています。技術的特徴として、モデル全体をNANDフラッシュに置き、必要な専門部分のみをDRAMへ読み込む設計により、メモリ制約を克服。これによりSiriの音声合成や聞き取り性能が大幅に向上しました。また、複雑な処理にはプライバシーを重視した「AFM 3 Cloud/Pro」が対応し、オンデバイスとクラウドを統合した強力なAI環境を構築しています。

元記事を読む他のサマリーを見る