Microsoft Foundry Local: ハードウェア最適化されたデバイス内AI推論SDK

概要

Microsoftが提供する、NPUやGPUの性能を最大限に引き出し、完全にオフラインでAIモデルを実行可能にするマルチ言語対応SDK。

詳細内容

Foundry Localは、AI搭載アプリケーションをローカル環境で実行するための開発者向けSDKです。MicrosoftのAzure AIテクノロジーを基盤とし、NPU、Neural Engine、GPU、CPUなどのハードウェアに最適化された推論を提供します。最大の特徴は、Python、JavaScript、C#、Rustといった多様な言語に対応している点と、OpenAI互換のAPIを備えているため既存アプリからの移行が容易な点です。データプライバシーを重視し、クラウドに依存しないエッジAIの開発を強力にサポートします。

元記事を読む他のサマリーを見る