概要
CerebrasのCS-4アクセラレータを活用し、GPT-5.6 Solを毎秒750トークンという驚異的な速度で実行する新サービス「Ultrafast Mode」がOpenAI APIで提供開始されました。
詳細内容
OpenAIとCerebrasは、GPT-5.6 Solモデルの推論を劇的に加速させる新サービス層「Ultrafast Mode」を発表しました。Cerebrasのウェハースケールエンジン（WSE）技術を基盤としたこのモードは、品質を一切犠牲にすることなく、毎秒750トークンという従来のGPUベースの環境（Fable 5等）と比較して最大11倍、Opus 4.8と比較して5倍の高速化を実現します。技術的な鍵は、44GBのオンチップSRAMを搭載したCS-4アーキテクチャにあります。これにより、従来のGPU推論でボトルネックとなっていた重みの転送（メモリ帯域幅の問題）を解消し、モデルの全重みをチップ上に保持したまま処理を行うことが可能です。この圧倒的な速度向上は、リアルタイムのサイバーセキュリティ対応、複雑な法的・財務分析、およびコンテキストスイッチなしでのAIエージェントとの協調作業を可能にします。