GPT-6.2 Astra(ジーピーティー・シックスポイントツー・アストラ)は、OpenAIが提供するモデルで、今回Responses APIのbackground modeにおいて待ち時間と引き換えにトークン単価が下がる割引ウィンドウの対象になりました。
室谷代表取締役OpenAIがResponses APIのbackground modeで、最初の応答までの待ち時間を2時間か8時間に設定するとトークン単価が下がる割引ウィンドウを、パブリックベータで始めたんですよね。対象はGPT-6.2 AstraとGPT-6.2 Solです。
テキトー教師DotAI 認定講師単に「安くなりました」という話じゃないんですよ。APIの料金設計に「即時性を捨てる」という新しい選択軸が入ったということなので、そこを丁寧に見ていきたいですね。
室谷代表取締役まず発表そのものを確認しておくと、OpenAIは「すべてのワークフローが即時応答を必要とするわけではない」という前提から話を始めていて、待てる単発・複数ターンのワークフロー向けに、GPT-6.2 AstraまたはGPT-6.2 SolでStandard比最大40%のトークン節約になると案内しています。
テキトー教師DotAI 認定講師ここで大事なのは、対象が「Responses APIのbackground mode」に限定されている点ですね。ChatGPTの画面から使う話ではなく、APIを叩いて組み込む開発者向けの話です。
室谷代表取締役そうです。で、僕が面白いと思ったのは、割引の設計が「時間」に紐づいていることなんですよ。
2hと8hという2択で、待てば待つほど安い。
2hと8hという2択で、待てば待つほど安い。
GPT-6.2 Astraとは?今回の発表で何が変わったか
まとめ
GPT-6.2 Astraとは?今回の発表で変わったか
- 発表の中心はモデル性能の比較ではなく、background mode(2h/8h)の割引の話
- GPT-6.2 Astraのベンチマークはこの発表からは読み取れず、現時点では明らかにされていない
- 変わったのはモデルの中身ではなく、モデルを呼ぶときの待ち時間と料金の選択肢
- OpenAI資料ではGPT-6 Astraは「最も知能が高いモデル」、GPT-6.1 Solは「Astraに近い知能を5分の1の価格で」と案内
- GPT-6.2 AstraとGPT-6.2 Solの価格・性能比較は発表資料になく断定不可
- 確実に言えるのはGPT-6.2 AstraとGPT-6.2 Solの両方が2h/8h割引の対象モデルとして名指しされたこと
- Responses APIのドキュメントでbackground modeは「Core concepts」の独立項目として並列扱い(Responses API、Conversation state、Streaming、WebSocket mode、Mid-turn steering、Multi-agent、Webhooks)
- background modeは実験的な脇道ではなくAPI設計の本流に位置づけられている
テキトー教師DotAI 認定講師まずGPT-6.2 Astraの位置づけを整理しておきたいんですけど、今回の発表資料はモデルの性能比較の話はほとんどしていなくて、中心はあくまでbackground modeの割引の話なんですよね。
室谷代表取締役そうなんです。だから「GPT-6.2 Astraのベンチマークがどうなったか」は、この発表からは読み取れないんですよ。
現時点では明らかにされていません。
現時点では明らかにされていません。
テキトー教師DotAI 認定講師そこは混同されやすいので、講座でも受講生さんによく言うんですけど、「今回の発表で変わったのはモデルの中身ではなく、そのモデルを呼ぶときの待ち時間と料金の選択肢」なんですよ。
室谷代表取締役ですね。OpenAIの資料では、GPT-6 Astraについて「最も知能が高いモデル」という案内があり、GPT-6.1 Solは「Astraに近い知能を5分の1の価格で」という位置づけで説明されています。
GPT-6.2 AstraとGPT-6.2 Solの関係について、今回の発表資料には価格や性能の比較までは書かれていないので、そこは断定しないほうがいいですね。
GPT-6.2 AstraとGPT-6.2 Solの関係について、今回の発表資料には価格や性能の比較までは書かれていないので、そこは断定しないほうがいいですね。
テキトー教師DotAI 認定講師ええ。今回確実に言えるのは、GPT-6.2 AstraとGPT-6.2 Solの両方が、この2h/8h割引の対象モデルとして名指しされたということです。
室谷代表取締役あと、Responses APIのドキュメントを見ると、background modeは「Core concepts」の中に独立した項目として置かれていて、Responses API、Conversation state、Streaming、WebSocket mode、Mid-turn steering、Multi-agent、Webhooksといった機能と並列で扱われているんですよね。OpenAIがbackground modeをAPIの基本概念のひとつとして位置づけているのが分かります。
テキトー教師DotAI 認定講師地味ですけど、そこは重要ですよね。実験的な脇道ではなく、API設計の本流に置かれている。
室谷代表取締役そうそう。MYUUUでもAPIを叩く処理はいくつも走らせているんですけど、「すぐ返ってこなくていい処理」って実はすごく多いんですよ。
そこに公式の割引が用意されたのは大きいです。
そこに公式の割引が用意されたのは大きいです。
Responses API background modeの2h/8h割引とは?
まとめ
Responses API background mode 2h/8h割引の要点
- 対象API: Responses APIのbackground mode
- 対象モデル: GPT-6.2 Astra、GPT-6.2 Sol
- 指定パラメータ: completion_window に "2h" または "8h"
- 料率: 2hはStandard比30%減、8hはStandard比40%減(トークン単価ベース)
- 提供状況: パブリックベータ
- 追加の仕組み: 継続ID(continuation ID)を再利用すると後続リクエストのキュー優先度が上がる
- 「2時間待たされる」ではなく「2時間の猶予を与える」指定。速く返せるときは速く返る上限の窓
- 会話の続きは同じ継続IDで投げると優先的に処理される
テキトー教師DotAI 認定講師ここで仕組みを整理しましょう。まずResponses APIはOpenAIのAPI群のひとつで、テキスト生成などのリクエストを送る窓口です。
background modeは、応答を即座に返さずバックグラウンドで処理させるモードですね。
background modeは、応答を即座に返さずバックグラウンドで処理させるモードですね。
室谷代表取締役で、今回追加されたのが
completion_windowというパラメータで、最初の応答を返すまでの猶予時間を指定できる。選択肢が"2h"と"8h"の2つで、それぞれStandard比で30%減、40%減のトークン単価になる、と。
テキトー教師DotAI 認定講師整理するとこうです。
- 対象API: Responses APIのbackground mode
- 対象モデル: GPT-6.2 Astra、GPT-6.2 Sol
- 指定パラメータ:
completion_windowに "2h" または "8h" - 料率: 2hはStandard比30%減、8hはStandard比40%減(トークン単価ベース)
- 提供状況: パブリックベータ
- 追加の仕組み: 継続ID(continuation ID)を再利用すると後続リクエストのキュー優先度が上がる
室谷代表取締役ここ、誤解しやすいポイントがあって。「2時間待たされる」ではなくて「2時間の猶予を与える」なんですよね。
速く返せるときは速く返る。あくまで上限の窓を指定するイメージです。
速く返せるときは速く返る。あくまで上限の窓を指定するイメージです。
テキトー教師DotAI 認定講師そうですね。資料でも「最初の応答までの猶予時間」という表現になっています。
だから体感としては、遅いのを許容する代わりに安くする、という取引なんですよ。
だから体感としては、遅いのを許容する代わりに安くする、という取引なんですよ。
室谷代表取締役あと継続IDの話も地味に効いてくるんですよ。会話の続きを同一処理として扱うための識別子で、これを再利用すると優先的に処理される。
つまり「待てるけど、待たされすぎるのは困る」というフォローアップには、同じ継続IDで投げるのが正解なんですよね。
つまり「待てるけど、待たされすぎるのは困る」というフォローアップには、同じ継続IDで投げるのが正解なんですよね。
テキトー教師DotAI 認定講師単発で投げっぱなしにするより、会話としてつなげたほうがキュー優先度が上がる。設計としては素直で分かりやすいですね。
室谷代表取締役GPT-6.2 Astra・Solで使える割引と料金の目安
GPT-6.2 Astra・Solの料金の考え方
テキトー教師DotAI 認定講師料金の話をしておきますね。今回の発表で示されているのは「Standard比で2hが30%減、8hが40%減」という割合です。
室谷代表取締役ここは注意が必要で、GPT-6.2 AstraやGPT-6.2 Solの絶対額のトークン単価は、今回の発表資料には書かれていないんですよ。だから「100万トークンあたり何ドル」という具体的な数字は、この記事では出せない。
現時点では明らかにされていません。
現時点では明らかにされていません。
テキトー教師DotAI 認定講師ええ。ただ、割合が分かっていれば計算はできますからね。
Standard単価を1とすると、2hは0.7、8hは0.6になる。同じトークン量を処理するなら、8h窓を使うほうが安い。
Standard単価を1とすると、2hは0.7、8hは0.6になる。同じトークン量を処理するなら、8h窓を使うほうが安い。
室谷代表取締役そう。で、ここで考えたいのが「8h窓をいつ使うか」なんですよ。
8時間って、実質「今日中に返ってくればいい」という幅なんですよね。退勤前に投げて翌朝受け取る、という使い方がまさにそれで。
8時間って、実質「今日中に返ってくればいい」という幅なんですよね。退勤前に投げて翌朝受け取る、という使い方がまさにそれで。
テキトー教師DotAI 認定講師参考までに、OpenAIの別モデルの価格体系を見ると、GPT-6 Astraが入力100万トークンあたり10.00ドル、出力50.00ドル、キャッシュ入力1.00ドル。GPT-6.1 Solが入力2.00ドル、出力10.00ドル、キャッシュ入力0.10ドルと案内されています。
あくまで別モデルの数字なので、GPT-6.2 Astra・Solの単価として受け取らないでくださいね。
あくまで別モデルの数字なので、GPT-6.2 Astra・Solの単価として受け取らないでくださいね。
室谷代表取締役そこ大事です。型番が近いからといって数字を流用すると事故るので。
GPT-6.2系の単価は公式の価格ページで確認するのが確実です。
GPT-6.2系の単価は公式の価格ページで確認するのが確実です。
テキトー教師DotAI 認定講師講座では「割引率で考えるクセをつけましょう」と伝えているんですよ。単価が変わっても、30%減・40%減という相対の感覚を持っておけば、コスト試算の式を組み替えるだけで済みますから。
室谷代表取締役あと、GPT-6.1 Solの話でいうと、GPT-6.1 Sol Ultrafastとは?OpenAIが最大8倍速で提供開始なんて発表もあって、OpenAIが「速さ」と「安さ」を別々の商品として切り出してきているのが見えるんですよね。今回の2h/8hはその「安さ」側の極端な例というか。
テキトー教師DotAI 認定講師速さにプレミアムを払う人と、待つ代わりに安くしたい人。同じモデルでも課金の軸が分かれていくのは、API利用が産業として成熟してきた証拠かもしれませんね。
background modeの使い方・始め方(completion_windowと継続ID)
テキトー教師DotAI 認定講師使い方のところを具体的にしましょう。OpenAIのスレッドでは、まず
completion_windowに"8h"を指定すると、APIに最初の応答まで8時間の窓が与えられる、と説明されています。
室谷代表取締役2hなら30%減、8hなら40%減。で、継続IDを送信時にセットして、フォローアップのリクエストで使い回すと、キュー優先度が上がる、と。
テキトー教師DotAI 認定講師整理すると、実装の流れはこうですね。
- Responses APIのリクエストでbackground modeを使う
completion_windowに "2h" または "8h" を指定する- 最初のリクエスト送信時に継続IDをセットする
- フォローアップでも同じ継続IDを使い回す
- 結果はバックグラウンドで処理され、窓の範囲内で最初の応答が返る
室谷代表取締役ポイントは、継続IDを「使い回す」ところまでがワンセットだということなんですよ。投げて終わりじゃなくて、続きを同じ処理として扱わせることで優先度が上がる。
会話の文脈を保ちながら、かつキューでも優遇される。
会話の文脈を保ちながら、かつキューでも優遇される。
テキトー教師DotAI 認定講師これは受講生さんがよくつまずくところで、「割引だけ使って継続IDを無視する」と、安いけど待たされ続ける、という状態になりかねないんですよね。
室谷代表取締役そうそう。安さだけ取って体験を落とすと、結局プロダクトの価値が下がるので。
MYUUUでも、ユーザーに見える画面の応答は即時系、裏側の集計や要約はbackground mode、みたいに分けるのが現実的だと思っています。
MYUUUでも、ユーザーに見える画面の応答は即時系、裏側の集計や要約はbackground mode、みたいに分けるのが現実的だと思っています。
テキトー教師DotAI 認定講師あと、これはパブリックベータなので、仕様が動く前提で設計しておいたほうがいいですよね。料率も窓も、資料に書かれた範囲は2h/8hの2択と30%/40%減ですが、ベータの間は変更があり得ます。
室谷代表取締役そこは運用でカバーですね。パラメータを設定ファイルに逃がしておけば、変わってもすぐ追随できますから。
即時応答が不要な業務での活用例——会議メモから翌朝ブリーフまで
テキトー教師DotAI 認定講師OpenAIが例として挙げているのが「退勤前に会議メモを送って、翌朝のブリーフを頼む」という使い方なんですよ。
室谷代表取締役これ、まさに8h窓の典型例ですよね。夜の間に処理が走って、朝にはまとまったブリーフができている。
人間が寝ている時間を計算資源として使う。
人間が寝ている時間を計算資源として使う。
テキトー教師DotAI 認定講師この例、単なる時短の話じゃないんですよ。会議メモを投げる時点で継続IDをセットしておけば、翌朝に「じゃあこの論点をもう少し詳しく」とフォローアップしたときも、同じ処理の続きとして優先的に扱われる。
一連のワークフローとして設計されているわけです。
一連のワークフローとして設計されているわけです。
室谷代表取締役そうなんですよ。で、これって会議メモに限らないんですよね。
たとえば夜間に社内ドキュメントをまとめて要約させるとか、問い合わせログを分類しておくとか。すぐ答えが要らないけど、翌朝には揃っていてほしい処理って、どの会社にもあるじゃないですか。
たとえば夜間に社内ドキュメントをまとめて要約させるとか、問い合わせログを分類しておくとか。すぐ答えが要らないけど、翌朝には揃っていてほしい処理って、どの会社にもあるじゃないですか。
テキトー教師DotAI 認定講師講座でも「即時性の要件を仕分けする」というワークをやるんですけど、受講生さんの多くは、自分の業務の半分以上が「今日中に返ればいい」ものだと気づくんですよね。
室谷代表取締役それは大きいですね。全部を最速で回す必要はない。
で、今回の発表はその仕分けに公式の値札を付けたわけです。2hで30%減、8hで40%減という値札が。
で、今回の発表はその仕分けに公式の値札を付けたわけです。2hで30%減、8hで40%減という値札が。
テキトー教師DotAI 認定講師ただ、実務に落とすと注意点もあります。8h窓は「8時間以内に必ず返る」という上限の話であって、8時間きっかり待つという意味ではありません。
だから「朝9時に欲しい」という業務には、前日の夜に投げておく設計が必要になります。
だから「朝9時に欲しい」という業務には、前日の夜に投げておく設計が必要になります。
室谷代表取締役そこはスケジューリングの設計次第ですね。cronで夜間に投げるのか、人間が退勤前に投げるのか。
後者のほうが自然で、OpenAIの例もそちらです。
後者のほうが自然で、OpenAIの例もそちらです。
テキトー教師DotAI 認定講師あと、GPT-6.2 AstraとSolのどちらを8h窓で回すか、という判断もありますよね。今回の資料には両モデルの性能差や価格差は書かれていないので、そこは公式のモデルカタログと価格ページを見て決めるしかない。
現時点では明らかにされていません、というのが正直なところです。
現時点では明らかにされていません、というのが正直なところです。
室谷代表取締役そうですね。ただ、Astraのほうが重い処理に向くという案内はGPT-6 Astraについて存在するので、GPT-6.2 Astraも同様の位置づけだと勝手に決めつけないほうがいい。
ここは公式の説明を待つ領域です。
ここは公式の説明を待つ領域です。
既存のコスト最適化策(Batch・Flex・プロンプトキャッシュ)との使い分け
テキトー教師DotAI 認定講師ここが一番実務的なところなんですけど、OpenAIには今回のbackground mode以外にもコスト最適化の手段がいくつかあるんですよ。
室谷代表取締役Batch、Flex processing、プロンプトキャッシュですね。ドキュメントの「Cost and throughput」の下に、Cost optimization、Prompt caching、Batch、Flex processingが並んでいるので、今回の2h/8hはそこに新しく加わった選択肢という整理になります。
テキトー教師DotAI 認定講師整理するとこうです。
- Batch: リクエストをまとめて処理する方式
- Flex processing: 余剰キャパシティを使う処理
- プロンプトキャッシュ: 同じプレフィックスを再利用してコストを下げる仕組み
- background modeの2h/8h: 最初の応答までの猶予を2h/8hにして単価を下げる仕組み
室谷代表取締役で、これらは排他じゃないんですよね。たとえばプロンプトキャッシュで入力コストを下げつつ、background modeの8h窓で出力の単価も下げる、みたいな重ね方ができる。
テキトー教師DotAI 認定講師そこは混同されがちで、「Batchがあるのになぜbackground modeなのか」という疑問が出るんですけど、Batchはまとめて処理する話、background modeは1件のリクエストの待ち時間を調整する話で、軸が違うんですよ。
室谷代表取締役そう。会話の続きを扱いたいならbackground modeと継続ID、大量の独立したジョブを一括で流すならBatch、という住み分けが自然ですね。
テキトー教師DotAI 認定講師講座では「どのコスト最適化も、要件の仕分けから始まる」と伝えているんですよ。即時性が要るか、会話の継続が要るか、件数がまとまっているか。
この3つを先に決めれば、使う手段はほぼ自動的に決まります。
この3つを先に決めれば、使う手段はほぼ自動的に決まります。
室谷代表取締役まさにそれで、今回の発表で選択肢が増えたぶん、仕分けの解像度が上がったということなんですよね。以前は「速いか、Batchでまとめるか」の二択に近かったのが、その間に「待つけど会話は続く」というレイヤーが入った。
テキトー教師DotAI 認定講師あと、Responses APIのドキュメントにはWebhooksやConversation stateといった項目も並んでいるので、非同期の結果を受け取る設計と組み合わせて考えることになりますね。
室谷代表取締役そうですね。background modeで投げて、結果をどう受け取るかは別途設計が要る。
ここはドキュメントのBackground modeのページを読むのが最短です。
ここはドキュメントのBackground modeのページを読むのが最短です。
テキトー教師DotAI 認定講師よくある質問
テキトー教師DotAI 認定講師最後に、よく聞かれる点をまとめておきましょうか。
室谷代表取締役はい。まず「GPT-6.2 Astraの性能やベンチマークは?」という点ですが、今回の発表はbackground modeの割引に関するもので、モデル性能の数値は示されていません。
現時点では明らかにされていません。
現時点では明らかにされていません。
テキトー教師DotAI 認定講師「GPT-6.2 AstraとSolのどちらを選ぶべきか」も同様で、今回の資料には両者の性能差・価格差の比較は書かれていません。両方とも割引の対象モデルとして名指しされている、というのが今回分かることです。
室谷代表取締役「ChatGPTの有料プランでも使えるのか」という質問も来そうですが、今回の発表はResponses APIのbackground modeの話なので、ChatGPTの画面から使う機能ではありません。API経由の話です。
テキトー教師DotAI 認定講師「日本から使えるのか」については、今回の資料に地域制限の記述はありません。パブリックベータとして提供開始された、というのが資料から読み取れる範囲です。
室谷代表取締役「2hと8hはどちらが得か」は、単純に8hのほうが安いです。40%減ですから。
ただし8時間の猶予を与えることになるので、業務の締め切りに間に合うかを先に確認する必要があります。
ただし8時間の猶予を与えることになるので、業務の締め切りに間に合うかを先に確認する必要があります。
テキトー教師DotAI 認定講師「継続IDは必須か」という点も気になりますよね。資料では、継続IDをセットして再利用すると後続リクエストのキュー優先度が上がる、と説明されています。
割引そのものは
割引そのものは
completion_windowの指定によるものなので、継続IDは優先度のための仕組みという整理になります。
室谷代表取締役「既存のBatchとどう違うのか」は、さっき整理したとおり、Batchはまとめて処理、background modeは1件のリクエストの待ち時間を調整するもの。会話の継続を扱いたいならbackground modeが向いています。
テキトー教師DotAI 認定講師「ベータが終わったら料率は変わるのか」については、現時点では明らかにされていません。パブリックベータという位置づけなので、仕様変更を前提に実装しておくのが安全ですね。
室谷代表取締役というわけで、今回の発表は地味ですけど、APIの料金設計に「待つ」という選択肢を公式に持ち込んだ点が本質なんですよね。速さに金を払うか、時間を差し出して安くするか。
その判断を、ワークフローごとに迫られる時代になったということです。
その判断を、ワークフローごとに迫られる時代になったということです。
テキトー教師DotAI 認定講師そうですね。まずは自分の業務を「即時が要るもの」と「今日中に返ればいいもの」に仕分けるところから始めるのが、一番効果が大きいと思います。
室谷代表取締役ですね。仕分けができたら、あとは
シンプルですけど、効きますよ。
completion_windowを設定して継続IDを回すだけ。シンプルですけど、効きますよ。
