概要
さくらインターネットは、企業独自の生成AIモデルを専有のGPU基盤上で安定して運用できるフルマネージドサービス「さくらのAI Engine プライベートエディション」の提供を開始しました。
詳細内容
さくらインターネットが新たに提供を開始した本サービスは、企業が保有する独自開発モデルやファインチューニング済みモデル、オープンウェイトモデルを同社の国内GPU基盤上にホスティングし、API経由で利用可能にするフルマネージド型のAIモデルサービング基盤です。主な特徴として、以下の4点が挙げられます。
1. **専有環境による安定性**: 他のユーザーの影響を受けない専有環境で推論を実行可能。
2. **フルマネージド運用**: 基盤の構築から監視、障害対応までをさくらインターネットが担当し、企業の運用負荷を軽減。
3. **月額定額制の採用**: GPU単位の定額制により、トークン量に依存しない予測可能なコスト運用を実現。
4. **高度なセキュリティ**: 国内データセンターでの運用、閉域接続対応、入力データの学習非利用を保証。
企業のAI活用がPoCから実運用フェーズへ移行する中で、セキュアかつコスト効率の高いインフラ環境として、機密情報を扱う業務や自社サービス基盤としての活用が期待されます。