GPT-6.2 Astra 的三欄式價格階梯:Standard 為每百萬 token 輸入 $8.00、輸出 $40.00,支援串流且無折扣時段;2 小時時段較 Standard 低 30%,價格為輸入 $5.60、快取 $0.28、輸出 $28.00,且不支援串流;8 小時時段較 Standard 低 40%,價格為輸入 $4.80、快取 $0.24、輸出 $24.00,頁腳註明其為目標值而非保證。OrcaRouter 標誌位於右下角。
Guides & Insights

GPT-6.2 Astra 背景模式:40% 折扣,依實際耗時計費

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

OpenAI 通往 GPT-6.2 Astra 的最便宜途徑並不會改變該模型的價格。它改變的是你願意何時收到答案。透過 Responses API 送出相同請求,將 background 設為 true,並將 background_options.completion_window 設為 8h,那麼每百萬個 GPT-6.2 Astra token 的輸入牌價 $8、輸出牌價 $40,就會以 $4.80 與 $24 計費。在 GPT-6.2 Sol 上,$2 與 $10 的價目會變成 $1.40 與 $7。相同的權重、相同的推理、相同的上下文視窗。兩者中較便宜的 GPT-6.2 Sol 也獲得相同待遇:八小時視窗內為 $1.40 與 $7,對比 Standard 的 $2 與 $10。改變的是你在佇列中的位置。

那項方案於 2026 年 11 月 17 日推出,與那兩個模型本身在同一個 changelog 視窗中,因此很容易被誤讀為降價。但它並不是降價。降價會跟著模型走,無論模型在哪裡被呼叫。完成時間窗只是某個端點上的旗標,而讓它對 OpenAI 排程器有價值的每一個特性,都是你必須接受的特性:不支援串流、不與一般流量共用快取,而且速率限制額度現在要與 Batch API 共用。

這件事值得在變更日誌中寫上不止一行,原因是這個折扣對一個仍維持完整模型品質的方案層級來說異常地深。Batch 多年來一直是五折,但 Batch 只接受那種你可以當成檔案提交、然後就不必再管的請求。這次則是針對即時代理對話提供六折,包含後續輪次與工具輸出,只要該對話能容忍佇列等待。對許多生產工作負載而言,這正是「負擔得起與否」的問題和「架構該怎麼設計」的問題之間的差別。

就 API 術語而言,視窗是什麼

背景模式本身並不新:它是 Responses API 以非同步方式執行長時間請求的方法。你將 background 設為 true,立即取得回應 ID,之後再透過 response.completed 上的 webhook 收集結果,或在狀態顯示為 queued 或 in_progress 時輪詢 retrieve 端點來收集結果。背景模式一直以來的重點,就是不必為了執行長達二十分鐘的 agent 執行而讓連線持續保持開啟。

新的部分是,背景佇列現在有分層與價格。background_options.completion_window接受soonest、2h或8h。Soonest2h比 Standard 低 30%,而8h低 40%,且文件明確指出,目標計時會在 API 接受初始要求時開始,並適用於該回應。

「Targets completion within the selected window」這句話要讀兩次。它是排程目標,不是保證,也不是固定延遲;API 本身的建議就是開始時間取決於排程。八小時視窗內的請求不會被擱置八小時才執行;它會在容量允許時執行,而如果它四分鐘就完成,你四分鐘就能拿到。你讓渡的是當它沒做到時抱怨的權利。

以美元計的階梯

此視窗涵蓋的兩個模型,各層級定價,以每百萬個權杖計,並以 OpenAI 公布的 Standard 費率作為基準:

• GPT-6.2 Astra,Standard — 輸入 $8、快取輸入 $0.40、輸出 $40

• GPT-6.2 Astra,2 小時視窗 — 輸入 $5.60、快取 $0.28、輸出 $28

• GPT-6.2 Astra,8 小時視窗 — 輸入 $4.80、快取 $0.24、輸出 $24

• GPT-6.2 Sol,Standard — 輸入 $2,快取 $0.10,輸出 $10

• GPT-6.2 Sol,2 小時視窗 — 輸入 $1.60、快取 $0.08、輸出 $8

• GPT-6.2 Sol,8 小時視窗 — 輸入 $1.40、快取 $0.06、輸出 $7

• 作為規模參考,同一模型在快速端的定價如下——Fast 模式將標準費率提高一倍,達到 16 美元與 80 美元;Ultrafast 在 2027 年 2 月 28 日前為標準的 3 倍,即 24 美元與 120 美元,並自 2027 年 3 月 1 日起為 6 倍,即 48 美元與 240 美元

Three stacked bars showing what a 40% window does to a $4.00 Artificial Analysis task on GPT-6.2 Astra: $4.00 at Standard, about $2.80 in the 2h window and about $2.40 in the 8h window, beside a card breaking the $4.00 into $1.19 of cache reads, $1.10 of cache writes, $1.64 of output and $0.07 of uncached input. The OrcaRouter logo sits in the bottom-right corner.

那些是 token 費率,而 token 費率並不等於一項任務的成本。Artificial Analysis 對 GPT-6.2 Astra 完成一項 Intelligence Index 任務的加權帳單,根據其 v5.0.1 指數以最大投入測得,在 Standard 方案下為 $4.00。若時段折扣均勻套用於該帳單中的各類別,同一項任務在兩小時時段內將為 $2.80,在八小時時段內則為 $2.40。以一萬項任務計算,那就是 $28,000 與 $24,000,而非 $40,000。

那個「if」確實在發揮作用。OpenAI 的文件將這項折扣描述為適用於每個符合資格請求中的模型 token 費率,包括後續請求,其定價頁面也重複了相同措辭。兩頁都沒有按 token 類別拆分這項折扣,而此模型的 token 帳單並非大部分是原始輸入:在 Artificial Analysis 的測量中,$4.00 裡有 $1.19 是快取讀取、$1.10 是快取寫入,只有 $0.065 是未快取輸入,另有 $1.64 是輸出。快取寫入有其自己的費率——30 分鐘快取每百萬 token $10,12 小時快取每百萬 token $20——因此,若工作負載主要是將大型提示寫入快取,費用未必會正好下降 40%。把 40% 視為折扣的大致形態,並實測自己的帳單,而不是假設那個倍數。

你繼承的四個條件

折扣並非適用於每一次請求,而排除條款正是實作時最常出錯的地方。

• 僅限 Standard 處理。折扣時段需要將 service_tier 設為 default。若將其保留為 auto,則只有在 API 恰好選用 Standard 時,請求才符合資格,這表示你的折扣會變成事前無法預見的擲硬幣賭注。

• 不支援串流。 串流僅適用於 soonest。對於 2h 和 8h,您必須省略 stream 或將其設為 false;且如果回應不是以串流方式建立,之後就無法對其進行串流。

• 一個共用的速率限制。兩小時與八小時視窗中的請求,會與 Batch API 作業共用 Batch/Background 速率限制,且輸入權杖會在提交時計入。將百萬權杖的文件送進八小時背景的實驗,不只是等待;它會消耗你的 Batch 作業原本可用的餘裕。

• 後續請求必須相符。 代理執行是一條鏈,唯有每個後續請求都重複相同的視窗、continuation_id、模型、專案與背景設定,折扣才能在整條鏈中延續。重複使用 continuation ID,後續請求也將符合較高佇列優先順序的資格。只要變更其中任一項,下一輪就會是標準請求。

A 2x2 grid of cards headed 'Four things the window takes with it': Standard processing only with the Flex tier gone, no streaming so you receive the finished response rather than tokens, a rate limit shared with Batch jobs where input tokens count at submission, and a split prompt cache whose window-written entries are invisible to Standard requests. The OrcaRouter logo sits in the bottom-right corner.

快取規則裡還藏著第五個條件,而它正是長尾最長的那一項。折扣時段之外的標準請求,無法重用由兩小時或八小時背景請求所建立的提示快取項目,即使提示完全相同也一樣;反之亦然。如果你的流量有一半跑在某个時段內、另一半隨需執行,你就已經悄悄把提示快取一分為二,並為將相同前綴寫入兩次而付費。拆分一側的折扣,會被另一側的快取寫入抵銷;而每百萬次快取寫入要價 10 美元的模型,正是最不該被一分為二的模型。

未列在發票上的成本

這項折扣是用時間換取 token,而時間不受視窗限制。以文件本身所用的範例——夜間文件審閱——來說:一個八小時的請求、一次工具呼叫,以及一個把擷取到的文件帶回來的後續請求。兩個回應都符合 40% 的資格,而第二個回應會重新起算目標。最好的情況下,整段執行在早餐前就完成。最壞的情況下,兩個回應各自都接近其完整目標時間,這使得端到端的上限約為十六小時,而不是八小時。

那套算術對於長時間執行的代理程式並不具備良好的擴展性。一個十二輪的工作流程,若每一輪都送進八小時視窗,上限就是四天;而實際排程會落在最佳情況與那個上限之間的某處,且沒有公開的分布。誠實的部署方式是依工作流程逐一決定,而不是依每次呼叫決定:輸出會在隔天早上被取用的管線是自然合適的選擇,互動式工作階段則不是,無論它能省下多少 token。這個視窗是對廉價容量的一種出價,而出價會在有待填補的容量時被成交。

沒人提及的 Flex 漏洞

在這些窗口之前,這個模型系列取得折扣的方式是service_tier: flex:比 Standard 低 50%,但優先級較低。Flex 仍適用於較舊的模型——GPT-6 Astra 在 Flex 表中的價格為 $5 和 $25,而 Standard 為 $10 和 $50——但 OpenAI 的背景指南明確指出,從 GPT-6.2 Astra 和 Sol 開始,新模型推出時不提供 Flex 處理,且長時間執行的工作應改用採用 Standard 處理的折扣完成窗口。

把兩個數字並排放著看,行進方向就一目了然。上一代時,有耐心的呼叫方可以買到五折。這一代最深的一層折扣是四折,而且它要求你把這項工作定位成背景作業。這個替代方案並非舊選項的直接升級;它是一個折扣更小、適用範圍更窄的選項,而且附帶著一種請求形態——非同步、非串流、單一回應 ID——並非每個整合都能採用。

Batch 仍然更深入,但對其中一半的情況來說是錯誤的工具。

Batch API 仍享 50% 折扣,周轉時間為 24 小時,而且單就價格而言,它勝過每一個背景視窗。兩者的區別在於結構,而非程度上的差異。Batch 接收一個由獨立請求組成的 JSONL 檔案,並回傳一個結果檔案;此工作流程在各行之間沒有記憶。背景模式則是一次處理一個回應,並透過previous_response_id以及應用程式必須在中間執行的一連串工具呼叫,將對話狀態延續下去。

所以真正的決策不是「哪個比較便宜」,而是「我的工作負載有沒有中間地帶」。五千個獨立的分类呼叫本來就屬於 Batch,而且一直如此。一次 agent 執行會讀取文件、呼叫函式,然後撰寫報告,這種工作根本無法以批次表達——在第一個請求返回之前,它的第二個請求並不存在。這正是這些視窗所填補的缺口,而這是個實實在在的缺口:那 40% 是 OpenAI 首次為有狀態、多輪工作提供的折扣。

帶有合規後果的儲存註腳

背景模式會暫時儲存回應資料,即使store為 false,或專案使用零資料保留(Zero Data Retention)也一樣,因為 API 需要這些資料來執行請求,並讓結果可供擷取。在每個保留期間內,包括soonest,資料都會加密儲存;建議您在仍可擷取時自行儲存原始輸入與完整回應輸出。該暫存資料沒有公布明確的存留時間(TTL)。

對於為受監管工作負載選擇「零資料保留」的團隊而言,「暫時儲存」這句話必須傳達給當初簽核資料處理審查的人,而且必須在第一個八小時工作排入佇列之前送到,而不是之後。折扣不會改變該端點的合規態勢;但它確實會改變請求及其輸出停留在你看不見的狀態下多久。

路由在這裡增加了什麼、又沒有增加什麼

有一點值得說清楚,因為折扣公布時很容易搞錯:這屬於排程功能,而非定價調整。OrcaRouter 以 0% 加成將供應商牌價原樣傳遞,這就是為什麼 OpenAI 真正降價時,我們這邊當天就會反映出來——但完成時間窗口是 OpenAI 自家端點上的旗標,不會隨著模型一起帶過來。透過路由器呼叫 GPT-6.2 Astra 並不會重現那 40%,也沒有任何路由器能做到,因為折扣只有排程器能授予。

這就剩下路由在這種部署形態下真正擅長的兩件事。第一是模型選擇:在這些時間窗涵蓋的四個模型中——GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 和 GPT-6 Luna——便宜的一端已經在我們的目錄中,GPT-6 Luna 與 GPT-6.1 Sol 按定價提供,因此分層決策與供應商決策都留在同一把金鑰上,而不是兩份合約。第二是保護不能等待的呼叫。把夜間工作放進八小時時間窗的系統,等於讓其延遲敏感路徑更重要,而不是更不重要;而該路徑上的自動容錯移轉,正是防止單一供應商事故把五秒鐘的呼叫變成服務中斷的關鍵。佇列與容錯移轉是互補的:把耐心花在能等待的地方,才能在其他所有地方毫不容忍。

OpenAI's developer documentation page for Responses API background mode, showing the background flag set to true, the background_options object with its completion_window values of soonest, 2h and 8h, and the notes on polling or webhook notification of the completed response.

經驗法則

如果回應是由正在觀看的人類所消費,這裡的內容一概不適用:請使用最快,以串流方式輸出,並支付 Standard 費用。如果回應是由排程工作、在晨會前送達的報告,或下一階段今晚就要執行的管線所消費,那麼八小時的窗口就等同於全品質權杖的 40% 折扣,而唯一真正的問題在於你的整合能否在沒有串流、且提示快取被拆分的情況下運作。兩小時窗口的 30% 是個尷尬的中間地帶——只有當工作確實以兩小時為截止期限時,才值得為此進行架構變更,而大多數批次型工作並非如此。

真正該看的數字不是折扣百分比,而是你已經在等待的流量占比。夜間運行智能體的團隊,能在本來就必須支付的帳單上省下 40%。以互動方式運行智能體的團隊,則被提供了一個他們用不上的折扣,而且是在一個已不再販售過去作為備案的 50% Flex 方案的模型上。第二類團隊應該先讀定價頁,再讀架構頁,因為在 11 月 17 日,呼叫 GPT-6.2 Astra 最便宜的方式已不再是你選擇的某個方案,而是你接受的某種時間安排。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新