OpenAI、「GPT-5.6 Sol」を最大14倍速く動かす「Ultrafast」モードを発表
米OpenAIは8月13日(現地時間)、「Ultrafast」モードを発表した。最上位モデル「GPT-5.6 Sol」を通常(Standard)の処理よりも最大14倍高速に動作させるという。
「GPT-5.6 Sol」のようなフロンティアモデルは遅く、リアルタイムな応答を必要とする場合は、より小さなモデルや特定用途に特化したモデルを選ばざるを得ないのが一般的だった。この常識を覆すのが、新しいサービス階層「Ultrafast」だ。
「Ultrafast」は、同社がパートナーシップを結ぶ米Cerebrasの推論インフラを活用し、毎秒最大750の出力トークンを生成する。「GPT-5.6」ファミリーでもっとも軽量・高速な「Luna」でも毎秒150トークンほど(Artificial Analysis調べ)であることを考えても、その速さがわかるだろう。
当然、価格は高くなるものとみられるが、金銭よりも時間がなによりも貴重となるシーンでフロンティアモデルを選べるのは魅力。同社は以下のユースケースを挙げ、その有効性を強調している。
・インシデント対応・信頼性:重要なシステムに障害が発生した際、アプリケーションのログや直近のコード変更、エンジニアからの報告を分析し、障害が続いている間に原因を絞り込んで修正の準備を進める
・金融リサーチ・セキュリティ:状況が動いている最中に市場のシグナルを分析し、取引を評価して不審な動きを見つけ出す
・カスタマーサポート・音声:複数のステップやシステムをまたぐ必要のある複雑な問い合わせでも、会話を止めずにリアルタイムで解決
・コマース:買い物客が迷っているあいだに商品の質問へ答え、在庫を確認し、おすすめを個別化し、決済のトラブルを解決する。ためらいがカート放棄に変わる前に手を打てる
・ライブリサーチ・実験:これまで一晩がかりだったリサーチを、対話的な作業セッションに変える
「GPT-5.6 Sol」の「Ultrafast」モードは現在、一部の顧客に限定して「OpenAI API」でプレビューされているとのこと。キャパシティの拡大にあわせて対象を広げるとしている。公式サイトでは、提供が拡大した際に通知を受け取るための事前登録を受け付け中だ。
