一張生成的標題卡寫著「GPT-6.1 Sol Context Window」,副標題為「1,050,000 個 token、922,000 這條線,以及 272,000 的斷崖」。下方有三個圓角面板:1,050,000 標示為「上下文視窗,廠商頁面上的說法」,922,000 標示為「最大輸入,文件表單裡的數字」,272,000 標示為「讓整個請求重新計價的那條輸入線」。OrcaRouter 標誌出現在右下角。
Guides & Insights

GPT-6.1 Sol 上下文視窗:1,050,000 個 Token、922,000 界線,以及 272,000 斷崖

作者

Elias Hawthorne

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

供應商為 GPT-6.1 Sol設立的模型頁面,於 2026 年 10 月 7 日讀取時載明:上下文視窗為 1,050,000 個符元,最大輸出為 128,000 個符元。同一頁面若改用機器可讀形式呈現,只要在其網址後附加.md,就會帶有算繪頁面從未印出的第三個數字:最大輸入符元數 922,000。GPT-6 Sol,也就是 6.1 版於 2026-09-29 發布時所要接替的模型,在其自身頁面上公布了完全相同的兩個上限數字,並在其本身的 markdown 形式中載有同樣的 922,000 那一行。我們自家針對 openai/gpt-6-sol的模型卡,將視窗列為 1,050,000 個符元、輸出上限列為 128,000,在其規格列中將前者顯示為「1M」,並在同一頁面下方的比較表中為同一個模型印出「1.1M」。

所以那些頁面確實互相矛盾,而值得精確說明它們是怎麼矛盾。廠商渲染後的規格摘要列給出了一個視窗和一個輸出上限,卻沒有輸入上限。同一型號的廠商 Markdown 文件則三者都有提供。任何根據渲染頁面來評估請求大小的人,手上的限制條件都比廠商公布的少了一個,而少掉的那一個,正是決定請求是否放得下的數字。

三個數字、三個來源,還有一道沒有人會寫下來的減法

以下是每個數字及其來源文件,全部於 2026 年 10 月 7 日讀取。

• 1,050,000 上下文視窗 —— 廠商為 gpt-6.1-sol 設立的模型頁面,無論是算繪後的規格列或其 markdown 形式,還是 gpt-6-sol 頁面上的同一數字。這也正是我們的型錄對 openai/gpt-6-sol 與 openai/gpt-6-luna 所回傳的值,該欄位是直接記為 1,050,000,而非四捨五入後的數字。

• 最多 128,000 個輸出 token——同一頁面、同樣這兩種形式,兩代皆適用。我們卡片上的欄位寫的是 128,000;其顯示則四捨五入為「128K」。

• 922,000 個最大輸入權杖 —— 這是廠商 gpt-6-sol 模型頁面及其 gpt-6.1-sol 頁面的 Markdown 形式。它不在這兩頁任一頁所渲染出的條狀區塊中,也不在我們為該模型設定的目錄欄位裡;該欄位僅止於視窗與輸出上限。

這三個數字在算術上彼此一致:922,000 加 128,000 正好是 1,050,000。廠商自家的推理指南描述了讓這個恆等式具有意義的機制,卻從未在模型頁面上實際把這個總和算出來——它說,推理詞元「仍會佔用模型的上下文視窗空間」,而如果生成的詞元「達到上下文視窗上限,或達到你所設定的 max_output_tokens 值」,回應傳回來時就會標記為不完整。一個由輸入與輸出共享的視窗,就是輸入上限為該視窗減去輸出保留量的視窗。

那種解讀獲得佐證,但未經證實,值得把這兩者區分開來。有明確記載的是 1,050,000 的視窗、128,000 的輸出上限,以及 922,000 的最大輸入。推斷出來的是,其中哪一項才是最先觸發的限制。這項推論對每個保留完整輸出額度的請求都成立,但對任何未保留完整輸出額度的請求都不成立——把 max_output_tokens 設為 4,000,而輸入為 1,046,000 個 token,並不會明顯遭到拒絕。在供應商把這項減法寫進這些數字所在的那個頁面之前,請把這組搭配視為預算的輪廓,而非硬性的准許規則,並且要對照計數端點來驗證,而不是對照一篇部落格文章。

上下文不是代價:272,000 個 token 的一步

更大的視窗是一種容量宣稱。它不是成本宣稱,而在這個系列上,兩者在一個有文件記載的分界線上分道揚鑣。供應商的定價頁面用一句話說明了規則:輸入權杖超過 272K 的提示,整個請求的輸入與快取費用為 2 倍,輸出為 1.5 倍。同一頁面對其兩欄的自身定義是「短上下文:≤272K 輸入權杖。長上下文:>272K 輸入權杖。」

請閱讀full這個詞,並仔細留意。此方案層級不會只對超過界線的 token 收費——它會重新定價所有項目,包括第一個 token。而且這不是 6.1 的變更:相同的規則、相同的門檻,也適用於 GPT-6 Sol,這就是為什麼這個斷崖必須歸因於該方案層級,而不是該發行版本。

用同一項長上下文工作把兩邊都跑一遍,依照 GPT-6.1 Sol 公布的費率,且前綴已常駐於快取中,讓快取寫入費用不會干擾比較:

• 240,000 個輸入 token(200,000 個快取、40,000 個全新),6,000 個輸出 — 全新輸入 40,000 個,以每百萬 $2.00 計算為 $0.080;快取輸入 200,000 個,以 $0.10 計算為 $0.020;輸出 6,000 個,以 $10.00 計算為 $0.060。總計 $0.160。

• 300,000 個輸入 token(260,000 個已快取、40,000 個未快取),6,000 個輸出 — 此請求現已超過門檻,因此所有費率都會變動:未快取輸入 40,000 以 $4.00 計為 $0.160;已快取輸入 260,000 以 $0.20 計為 $0.052;輸出 6,000 以 $15.00 計為 $0.090。總計 $0.302。

多 25% 的輸入 token,帳單就多 89%。把同一組請求放到 GPT-6 Sol 上跑,形狀依然成立,只是斜率更陡——低於門檻是 $0.180,高於門檻則是 $0.354,因為舊價目表的 $0.20 快取費率,正好落在 6.1 長上下文快取費率所在的相同位置。這個跨越是階梯,不是斜坡,而要看清楚這點,最便宜的方法就是以些微之差跨過去。一個完全未快取的 271,000-token 請求,搭配 1,000 個輸出 token,費用是 $0.552;到 273,000 時則要 $1.107。輸入 token 多 0.7%,費用卻變 2.01 倍。從那個請求再削掉 2,000 個 token,帳單就從 $1.107 降到 $0.552——用不到 1% 的輸入,換來一半的成本。

本節沒有任何內容是在談 GPT-6.1 Sol 的視窗很大。它談的是,這個視窗大到足以觸及一個邊界,而該邊界的代價高於視窗大小所能換取的。

A generated two-column scoreboard titled 'GPT-6.1 Sol vs GPT-6 Sol - the scoreboard'. Both columns carry the same six rows. GPT-6.1 Sol reads: context window 1,050,000 tokens; max input 922,000 tokens (docs form); max output 128,000 tokens; input price $2.00 / $4.00 per M; cached input $0.10 / $0.20 per M; output price $10.00 / $15.00 per M. GPT-6 Sol reads the same on every row except cached input, which is $0.20 / $0.20 per M. A footer line credits OpenAI's model and pricing docs read Oct 7 2026 and explains that the second figure in each price row is the long-context rate above 272,000 input tokens. The OrcaRouter logo appears in the bottom-right corner.

究竟是什麼填滿了 1,050,000 個 token?

上下文預算由六個部分組成,而它們的可快取性並不均等。以下是一個具說明性的 240,000 token 代理式請求的大致占比;比例是我們自己的,可快取性規則則是供應商的,取自同日閱讀的提示快取指南。

• 由供應商注入的系統內容與請求格式設定 — 會在你的訊息之前呈現,以輸入計費,並明確排除於最低可快取長度之外。這不是你所能控制的,也不是你所能刪減的。

• 你的開發者指令與系統指令,約 6,000 個 token。可快取。這是前綴的最前端,因此這裡的變更會使後方的一切失效。

• 工具定義與結構描述,託管工具介面加上你的函式約需 14,000 個詞元。可快取,而且是前綴中最脆弱的部分:指南將工具名稱、描述、結構描述、排序,以及工具專屬指示列為會移動前綴邊界的項目。

• 檢索到的語料,約 180,000 個 token。可快取,而且是目前為止最大的一項。唯有在多次呼叫之間位元組穩定時,才值得快取——每次請求都重新組裝的語料,就是全價語料。

• 累積的——先前的對話回合與工具結果——約 30,000 個 token,且持續增加。可快取至最新的一次變更;本回合送達的工具結果是以完整費率計價的全新輸入。

• 推理 token — 生成後不會被快取,且以輸出計費。它們會佔用視窗,而且在回應主體中看不見。

那份清單直接帶出兩點操作注意事項。首先,快取項目存放在個別機器上:指南指出,請求唯有「送達一部持有相符且尚未過期項目的機器」時,才能重複使用某個前綴;而溢位路由會在大約每分鐘超過 15 次請求時開始。其次,可快取前綴的最低門檻是 1,024 個可見輸入 token,而隱藏的系統 token 不計入其中——因此,無論其周圍的請求有多大,簡短的系統提示詞都不是可快取前綴。

輸出上限是另一筆獨立預算,而不是第二份。

128,000 個最大輸出 token 並不代表答案就有 128,000 個 token。推理指南明確指出,max_output_tokens 所設上限涵蓋的是模型生成的總量,「包含推理 token、可見的輸出 token,以及不可見的格式 token」,而且推理 token 會以輸出計費,同時佔用視窗空間。

這使得截斷成為一項設計決策,而非邊界情況,因為它的失效方式使然。當生成達到上限時,回應會以 incomplete 狀態和 max_output_tokens 原因傳回——而指南警告,這「可能在任何可見輸出權杖產生之前發生,意味著你可能會為輸入與推理權杖產生費用,卻未收到可見回應」。一個把整個視窗都花在輸入上、並把輸出保留額交給運氣的預算,就是一種可能對完整的長上下文請求計費,卻不回傳任何呼叫端能解析內容的預算。供應商自己的起始建議是:在你仍在衡量提示實際需要什麼時,至少保留 25,000 個權杖給推理與輸出。

GPT-6.1 Sol 讓這一點更加明確,而這是本次發行中少數真正專屬於 6.1 的敘述之一。它的推理投入階梯包含 low、medium、high、xhigh 與 max,且不支援 none 與 minimal 設定。GPT-6 Sol 則六種全都接受。因此,6.1 上沒有任何設定能關閉推理花費,預設值為 medium,而預算中輸出那一端永遠不會免費。

快取輸入減半,在視窗最寬處讀取

GPT-6.1 Sol 定價卡上唯一相對 GPT-6 Sol 有所變動的費率是快取輸入:每百萬個 token 從 $0.20 降至 $0.10,模型頁面以未快取輸入費率的 5% 來表示,而供應商的快取指南則明確將之稱為 0.05x 的情況,相對於大多數 GPT-5.6 及更新版本模型所採用的 0.1x。輸入、快取寫入與輸出在兩張定價卡上完全相同,長脈絡倍率也完全相同。

對本頁所談的正是這類工作負載而言,那正是該被壓低的計量項目,原因在於一個長請求的組成結構,而不是它的大小。在上述的 300,000-token 工作中,有 260,000 個輸入 token 是快取前綴——占該請求傳送內容的 87%。因此,快取那一行是帳單中最大的單一輸入計量項目,而這正是長上下文工作的普遍特性:你使用的視窗越長,其中屬於你已經傳送過的前綴就越多。將該計量項目減半,在這筆請求上價值 $0.052。

而斷崖在同一筆請求上收回的,比減半所給出的還多。若按它線下本應支付的短上下文費率計價,同樣一件 30 萬 token 的工作在 GPT-6.1 Sol 上只需花 0.166 美元,而非 0.302 美元——跨越成本為 0.136 美元,約為本次發佈中唯一變動的那一項計費指標價值的 2.6 倍。線上的快取費率則顯示為 0.20 美元,這對這個系列來說並非新數字:它是 6.1 規格卡上頭條價的兩倍,也正好是 GPT-6 Sol 在本次發佈前對線下快取讀取所收取的價格。長上下文的快取工作負載領取了頭條價的變動,隨即在邊界處又把它交還回去,而罪魁禍首是這道邊界——不是模型。

A screenshot of the machine-readable markdown form of OpenAI's GPT-6.1 Sol model documentation, captured October 7 2026, showing the Model details block with the three figures on consecutive lines — 1,050,000 context window, Maximum input tokens: 922,000, and 128,000 max output tokens — above the Text tokens pricing table listing Input $2, Cached input $0.1, Cache writes $2.5 and Output $10 per 1M tokens, the note that cached input tokens are priced at 5% of the uncached input rate, and the sentence 'Prompts with more than 272K input tokens are priced at 2x input and cache rates and 1.5x output for the full request.'

如何決定上下文預算的大小

作為一道程序,依約束生效的順序:

• 計算請求內容,不要用估算的。將完整的 payload(包含工具、圖片、檔案等全部內容)POST 到 Responses API 的輸入 token 計數端點。這份指南直言原因:計數會包含訊息角色與邊界的格式 token,而這些 token 永遠不會出現在你可以在本機進行 token 化的文字中;此外,像是「字元數除以四」這類本機估算方式,對圖片、檔案與結構描述而言並不準確。

• 先保留輸出端。選擇 max_output_tokens 時,請記住它同時涵蓋推理、可見輸出與格式,並從廠商的 25,000 個 token 緩衝區起算,而不是從零起算。你的輸入預算是視窗減去該保留量,而九百二十二這個數字是廠商對同一減法所得的版本。

• 在送出之前,先在 272,000 的兩側為這項請求定價。這個級距夠大,因此一項刻意落在門檻略下方的請求,和一項刻意落在門檻略上方的請求,是截然不同的產品。

• 依穩定性排序前綴。 指令,然後是工具結構定義,然後是語料庫,最後是逐字稿。任何在呼叫之間會變動的內容都應放在最後,這樣只會犧牲前綴匹配,而不是整個快取。

• 在預期有快取之前,請先達到 1,024 個可見輸入 token。低於這個最低值就不會快取,而隱藏的供應商 token 也不計入其中。

• 檢查重用是否合理。前綴必須在 30 分鐘的快取生命週期內被重複使用,且必須落在持有該條目的機器上;這兩者都在指南中有所說明,且兩者皆非你程式碼的屬性。

• 任何模型或設定變更後,請重新測量。改用 GPT-6.1 Sol 會移除「關閉推理」這個選項,這會改變推理權杖數量,連帶改變預算的輸出端——而推理強度、工具、結構化輸出結構描述或上下文管理的變更,也可能移動前綴邊界,讓你完全失去快取費率。

• 決定當工作無法縮減時會發生什麼事。壓縮是文件記載的逃生出口:Responses 請求可以設定 context_management 並帶有壓縮閾值,而伺服器會以不透明的壓縮項目取代較早的對話內容,並用更少的 token 將關鍵狀態往前帶。這是預算決策,而非免費的修剪,因為指南指出壓縮「可能會從第一個變更的 token 開始阻礙重用」——一次壓縮處理會使其後方的前綴失效。

A screenshot of the OrcaRouter model page at www.orcarouter.ai/models/openai/gpt-6-sol, captured October 7 2026, showing the OrcaRouter nav bar, the breadcrumb Home -> Models -> OpenAI, the model identifier openai/gpt-6-sol attributed to OpenAI with the date 2026-09-22, the Vision, Tools, JSON and Reasoning capability badges, the spec tiles reading Max output 128K, input text + image + file, output text and a p50 TTFT of 1.44 s, the description stating a 1.05M-token context, and the /v1/chat/completions rate row of $2.00 in and $10.00 out per 1M tokens.

本頁的計算從 GPT-6.1 Sol 所取代的那一代開始,而那一階正是今日可呼叫的版本:我們為 openai/gpt-6-sol 建立的卡片回報 1,050,000 個 Token 的上下文視窗,最大輸出為 128,000 個 Token,以 OpenAI 的定價、0% 加成計費——供應商的價格就是頁面上顯示的價格,而供應商一旦調價,會在同一天反映到那裡,而不是等到續約時才更新。我們的卡片本身沒有最大輸入欄位,因此該模型 922,000 個 Token 的數字必須來自供應商自己的文件,而本頁從頭到尾採用的一直是這個做法。這張卡片的用處在於規模估算:它確實有公布的視窗與輸出上限,正是上方預算程序用來相減的兩個數字,而下面那一階才是當 6.1 還很新時,你真正能拿來執行該程序的對象。網址是 https://www.orcarouter.ai/models/openai/gpt-6-sol。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新