一張生成的主視覺卡片,標題為「每秒 126 個 token,而非 4.5 倍」,副標題為「Ultrafast 在 GPT-6.2 Sol 上的首次公開測量」,三張卡片分別寫著「實測平均:126 tok/s」、「實測峰值:252 tok/s」和「標準基準:85 tok/s」,頁尾寫著「一名使用者於 2026 年 11 月 18 日進行的 27 分鐘影片剪輯;標準基準依據 Artificial Analysis」。
Guides & Insights

GPT-6.2 Sol Ultrafast,實測:每秒 126 個 Token,未見 4.5× 的跡象

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

針對GPT-6.2 Sol 在開啟 Ultrafast 後的首個公開數字是每秒 126 個 token,這是對一項工作取平均:該工作實際經過時間為 27 分鐘,其中約 14 分鐘是模型實際回應時間,峰值瞬間達到每秒 252 個 token。數據來自 X 上的一位影片剪輯師,他請模型剪輯一段八分鐘的影片——這是一項真實任務,僅以四行文字回報,沒有測試框架、沒有重複執行,也沒有 Standard 模式的對照組。把這個平均值拿來對照 Artificial Analysis 針對同一模型在 Standard 模式下公布的每秒 85 個輸出 token,就會發現:OpenAI 聲稱能以「最高達 Standard 4.5 倍的速度」產生 token 的這個層級,在這份單一報告中只達到約 1.5 倍。GPT-6.2 Astra 與 GPT-6.1 Sol,也就是 Ultrafast 名單上的另外兩款模型,在那個獨立排行榜上更低,分別為每秒 60 與 49 個 token,這就是為什麼在此處比率比原始數字更重要。

四個數字,還有第五個沒人發佈的

這則貼文對於社群媒體上的速度宣稱異常具體,而這正是它值得拆解的原因。它提供了任務(一支八分鐘的影片剪輯)、總時間(27 分鐘)、花在等待模型上的部分(約 14 分鐘)、平均生成速率(每秒 126 個 token),以及最佳單次爆發(252)。OpenAI 將該層級記錄為 Ultrafast;貼文則稱之為「Ultra Fast」。兩個名稱描述的是同一件事——ChatGPT Work 和 Codex 應用程式選單中最快的速度選項。

這篇貼文沒有提供的,是那個能讓它成為標竿的另一半:

• 它是在哪個平台上執行——ChatGPT Work、Codex 應用程式,還是 API。三者都會顯示該等級;但這些數字無法在這三者之間互相比較。

• 推理強度設定。Sol at Light 與 Sol at Pro 在產生第一個 token 前的思考量不同,而思考時間包含在那 14 分鐘內。

• 實際生成了多少個 token。這可以從平均值與持續時間推斷出來,而這個推斷值得做——見下文——但這終究只是推斷。

• Standard 在相同任務上會花多少。這才是這篇文章真正要談的數字,也是這則貼文無法包含的那個數字,因為那只是一次單獨執行,沒有可拿來比較的對象。

• 這次剪輯第一次是否就能用。「它剪出了一部八分鐘的影片」是成功宣稱,不是品質宣稱,而且重跑一次會大幅改變總時長。

確切陳述的主張,以及該層級的費用

OpenAI 的速度文件對 Ultrafast 所承諾的內容說得很精確:「在 GPT-6.2 Astra 與 GPT-6.2 Sol 上,Ultrafast 產生 token 的速度最高可達同一模型上 Standard 的 4.5 倍。」請注意這兩個限定詞。這是關於 token 生成的宣稱,不是關於首個 token 的時間,也不是關於完成整個任務所需的時間。而且它說的是「最高可達」,這是一個上限,而非典型值——當第一份獨立讀數大約只有該上限的三分之一時,這項區別就至關重要。

在 API 上,它是旗標,不是模型:將 model 設為 gpt-6.2-sol,並將 service_tier 設為 "ultrafast"。OpenAI 建議代理式作業使用 WebSockets,以免連線額外負擔侵蝕效能增益;Ultrafast 有各自的速率限制,與 Standard 和 Fast 分開。GPT-6.2 模型的這些限制並未公布——文件要求你查看自己組織的設定——而 GPT-6.1 Sol Ultrafast 在 Build 層級公布每分鐘 1,000,000 個 token,GPT-6 Astra 則公布 500,000。GPT-6.2 層級的推論駐留僅限美國。在 ChatGPT 中,Pro $200 僅能在 Sol 上取得 Ultrafast,Pro $500 則可取得兩個模型。

價格是帶有截止期限的那個部分。在 GPT-6.2 Sol 上,Ultrafast 於促銷期間為每百萬輸入 token 6.00 美元、快取輸入 0.30 美元、輸出 30.00 美元,牌價則為 12.00 / 0.60 / 60.00 美元——正好是標準費率 2.00 / 0.10 / 10.00 美元的 3 倍與 6 倍。OpenAI 標明了切換日期:「Ultrafast 在 2027 年 2 月 28 日前(含當日)的費用為標準費率的 3 倍,自 2027 年 3 月 1 日起(太平洋時間)為標準費率的 6 倍。」

A screenshot of OpenAI's ChatGPT speed documentation describing Ultrafast mode, showing the statement that on GPT-6.2 Astra and GPT-6.2 Sol Ultrafast generates tokens at up to 4.5 times the speed of Standard, the recommendation to use WebSockets, and the note that Ultrafast has separate rate limits from Standard and Fast.

讓 126 清晰可讀的基線

每秒 token 數若沒有參照基準就毫無意義,而這個模型家族恰好只有一個獨立參照基準。Artificial Analysis 測得 GPT-6.2 Sol 在最高推理強度下為每秒 85 個輸出 token、首 token 時間 68 秒、完成一項 index 任務需 7.9 分鐘,以及每項任務 $1.01,對應的 Intelligence Index 為 57。同一份榜單顯示,GPT-6.2 Astra 為每秒 60 個 token、Index 為 62、每項任務 $4.00;GPT-6.1 Sol 則為每秒 49 個 token、Index 為 55、每項任務 $1.27。

那些是固定評估集上的測試框架中位數,而影片剪輯是一個人一個下午的成果。它們不是同一種測量,誠實地將兩者一起使用的方式,是把它們當作粗略的比例因子,而不是定論:

• 測得平均值為每秒 126 個 token —— 約為 Standard 基準 85 的 1.5 倍。

• 測得峰值為每秒 252 個 token——約為該基準的 3.0 倍,出現在單次最快爆發中。

• 把 4.5× 的說法套用在 85 上——也就是略高於每秒 380 個 token,而報告中沒有任何數據能接近這個數字。

• Artificial Analysis 自家的 GPT-6.2 Sol 頁面完全沒有提及 Ultrafast,因此其 85 分預設上屬於 Standard 模式的數據,而非明確宣稱的分數。

為什麼四點五倍的 token 不等於四點五倍的工作量

這就是當速度等級以倍數形式販售時會漏掉的部分,而那段影片貼文意外地包含了證據。一趟 27 分鐘的工作中有 14 分鐘是模型回應,意味著 52% 的時間花在生成,48% 花在其他所有事情上——上傳、轉碼、編輯器本身的步驟、工具呼叫,以及管線在模型回合之間所做的任何事。把這個拆分視為工作負載的形狀,算術就會變得毫不留情:

• 生成時間意味著大約 106,000 個輸出 token,以 14 分鐘和每秒 126 個 token 計算。

• 在每秒 85 個權杖的標準基準下,這些權杖大約需要 21 分鐘,因此整個作業大約落在 34 分鐘。

• 在完整的 4.5× 宣稱下——約每秒 383 個 token——它們只需不到 5 分鐘,因此整個作業落在接近 18 分鐘。

• 這次跑步實際上花了 27 分鐘,幾乎正好介於兩者之間的正中間。

即使該層級完全兌現了 4.5× 的每一分效能,這個工作負載的端到端增益也只會約 1.5×,因為模型始終只占整體工作的一半。阿姆達爾定律並不在乎快的那部分變得多快。這不是反對 Ultrafast 的理由;而是主張:應該拿該層級對照你自己的管線型態來衡量,而不是對照那個倍數,因為互動式聊天的一輪幾乎全是生成,而媒體管線則不是。

那 14 分鐘實際上要付出什麼代價

將促銷費率表套用到推定的 106,000 個輸出 token,測量價格在一行內即可清楚看出:

• 標準版,每百萬輸出符元 $10.00——約 $1.06。

• 超高速,促銷價每百萬 $30.00 — 約 $3.18。

• Ultrafast 自 2027 年 3 月 1 日起按定價計,每百萬 $60.00 — 約 $6.35。

輸出只占帳單的一半,而對影片剪輯代理來說,那可能還是較小的一半。每一則畫面描述、逐字稿和工具結果都會以輸入的形式送回,促銷期間每百萬 token 為 $6.00;而代理若反覆循環處理相同的上下文,正是快取寫入列所針對的工作負載——30 分鐘快取每百萬 $7.50,12 小時快取 $15.00,相較之下快取讀取只要 $0.30。一條管線若重新傳送上下文而不加以快取,花在輸入上的費用可能高於它試圖加速的輸出。文章沒有報告 token 數量,所以無法加總,只能界定上限:該方案層級讓帳單中生成的那一半變成三倍,而且十四週後會讓它變成六倍。

要將層級放在哪個模型上

同樣的 4.5 倍套用在三個不同的基準上,會得出三個截然不同的結果,而最便宜的那個並不是最快的。

• GPT-6.2 Sol — 在 Standard 下每秒 85 個 token,因此該說法意味著約 383。Index 57,每項任務 $1.01。

• GPT-6.2 Astra — 在 Standard 下為 60,因此該說法意味著約 270。指數 62,每項任務 $4.00,多五個指數點卻要四倍成本。

• GPT-6.1 Sol — Standard 為 49,因此此說法意味著約 220。Index 55,每項任務 $1.27,而其 Ultrafast 層級採固定價格:每百萬輸入 $12.00、輸出 $60.00,且完全沒有促銷列。

隨之而來有兩個結果。首先,Astra 上的 Ultrafast 仍比 Sol 上的 Ultrafast 慢,因為它是從較低的基準起步——如果目標是吞吐量,更強的模型並不能讓你達到那裡。其次,GPT-6.1 Sol 的 Ultrafast 目前定價已等同於 GPT-6.2 Sol 的 Ultrafast 在二月之後的價格,因此這更像是對帳單的合理預覽,而非折扣。OpenAI 也指出,GPT-6 Astra 和 GPT-6.1 Sol 上的 Ultrafast 可供所有 API 使用者使用,而 GPT-6.2 層級則會指向你組織的速率限制——在圍繞它建立佇列之前值得先確認。

A screenshot of the Artificial Analysis model page for GPT-6.2 Sol, showing an Intelligence Index of 57, an output speed of 85 tokens per second, a time to first token of 68 seconds, 7.9 minutes per index task, and a cost of $1.01 per task.

取得自己的號碼,而不是借用這個號碼

上述測量結果只是一份單一報告,應視為一項訊號,而非規格。解決方式是針對你自己的工作負載進行受控 A/B 測試——相同提示、相同任務,在 Standard 上跑三次,以及三次將 service_tier設為"ultrafast",並分別記錄端到端分鐘數、總 token 數與首個 token 的時間。請同時報告峰值與平均值,因為原帖中 126 與 252 之間的差距,正是「有幫助的層級」與「偶爾有幫助的層級」之間的差別。

OrcaRouter 目前不提供 GPT-6.2 Sol 或 GPT-6.2 Astra;目錄中收錄的是 openai/gpt-6-astra、openai/gpt-6-sol、openai/gpt-6.1-sol 與 openai/gpt-6-luna,而 GPT-6.2 的模型頁面無法解析。因此,這並不是建議你將新模型透過我們路由。目前成立的事實範圍更窄,但對這項決策仍然同樣有用。GPT-6.1 Sol 已收錄於目錄中,它是與所測模型最接近的模型,而透過單一金鑰以你的評估集對它執行測試,是在你將預算投入一個三月就會翻倍的層級之前,了解速度層級是否會改變你的產品的最便宜方式。定價為供應商牌價原樣傳遞、不加價,因此 2027 年 3 月 1 日的漲價會在 OpenAI 那邊生效的同一天來到我們這邊——沒有重新定價週期,也無需重新協商。

還有一個專屬於這個層級的路由論點。Ultrafast 有自己獨立的速率限制,與 Standard 和 Fast 分開;而且 OpenAI 並未公布 GPT-6.2 層級的預設每分鐘 token 數——你得撞到上限才會知道自己的天花板。把 Ultrafast 當成唯一路徑的管線會繼承這個未知數;能在同一模型上回退到 Standard 的管線,則會降速而不是失敗。這就是把速度層級放在路由器後面、而不是硬編碼的結構性優勢;而且值得在該層級進入關鍵路徑之前先具備。

A generated single-column scoreboard for GPT-6.2 Sol Ultrafast with rows reading 'Measured average: 126 tok/s', 'Measured peak: 252 tok/s', 'Standard baseline: 85 tok/s', 'Vendor claim: up to 4.5x Standard', 'Output price, promo: $30 per MTok' and 'Output price, list: $60 per MTok', with a footer noting that the measured figures are one user's task report, the baseline is per Artificial Analysis, and the claim and prices per OpenAI.

什麼能讓這件事定下來?

只要有一個數字,就能讓這件事從軼事變成證據:在固定任務上進行 Standard 對 Ultrafast 的 A/B 測試,並公布 token 數與實際耗時。在那之前,對 2026 年 11 月 18 日可站得住腳的解讀是:GPT-6.2 Sol 上的 Ultrafast 是真實存在的,而且明顯比 Standard 快——126 對 85 不是雜訊,252 個 token 的爆發也不是四捨五入的假象——但公布的分數倍率是上限,公開場合沒有人接近過;而任務層面的加速,既取決於方案本身,也同樣取決於你的流程中有多大比例是 token 生成。發布這項測量的人,把影片剪輯在 27 分鐘內完成,而不是估計的 34 分鐘,而且是在上市週的方案上完成;這個方案到三月會貴上一倍。這是個好結果,也是個溫和的倍率;在任何人依據 4.5× 做預算之前,這兩半都值得知道。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新