Step 5 Preview 的 100 萬 Token 視窗，如今已不限於 StepFun 自家 API

Step 5 Preview起，不再是由單一供應商提供的模型自 2026 年 10 月 16 日。StepFun 自家的官方帳號當天證實，其 1M token 的旗艦模型現已在第三方推論主機上線，這是該模型首次能被不想擁有 StepFun 帳號、StepFun 餘額，以及以另一種貨幣計價的 StepFun 費率表的開發者所觸及。這就是這則公告的全部新聞價值，值得直白說明，因為公告本身沒有帶來任何新規格、沒有價格變動，也沒有基準測試。它帶來的是發行通路的改變。StepFun 於 2026 年 9 月 20 日發布 Step 5 Preview；而 10 月 16 日發生的事，就是這個模型開始出現在自家以外的地方。計分板所衡量的，與實際部署所遇到的，兩者之間的落差，正是這份紀錄之所以重要的原因：這一類模型相關、有據可查的 AI 失效與代理事故，都收錄在 OrcaRouter AI Incident Archive，其中每一筆條目都附有各自的來源、嚴重程度、信心等級與爭議標記。

發佈方式的變化很容易被低估，而正是這類變化會推動採購決策。一個只能從單一供應商取得的模型，就是單點故障、單一組速率限制，以及單一組區域端點；而對於「如果那個供應商某個下午出狀況會怎樣」這個問題，誠實的答案是「你的產品也會跟著度過一個糟糕的下午」。一個可從多個獨立主機取得的模型則是路由問題，而路由問題是有解的。問題在於，並非 Step 5 Preview 的一切都會隨著權重移轉到新主機，而那個不會跟著移轉的東西，正是最可能決定你帳單金額的數字。

StepFun 實際上說了什麼，以及它省略了什麼

這則公告實質上只有一句話：該模型已在第三方推論平台上線，而被強調的功能是 100 萬 token 的上下文視窗。它並未公布在那些平台上的價格，並未承諾會以完整長度提供上下文視窗，也完全未提及提示快取折扣是否會跟著模型跨越這道界線。這三項省略，正是團隊在遷移管線之前應該提出的三個問題，而它們並非吹毛求疵——每一個都有一個看似合理的錯誤答案。

正在散布的模型與 StepFun 在九月記載的是同一個，而且記載的數字並未改變。出自 StepFun 自家的模型頁面：

• 模型 ID — step-5-preview，其中「Preview」屬於識別碼本身的一部分，而非本文另外加上的後綴

• 上下文視窗與最大輸入 — 各為 1M 個 token，依據 StepFun 的規格表

• 最大輸出 — 64k 權杖，其中 max_tokens 記載為預設無上限，因此除非您設定停止點，否則模型會自行選擇停止點

• 輸入 — 文字、圖像與影片；圖像以 URL 或 Base64 形式提供，格式為 JPG、PNG、WebP 或靜態 GIF，每次請求最多 60 張；影片格式為 MP4、QuickTime 或 Matroska

• 輸出 — 僅限文字，支援串流、工具呼叫、JSON Schema 結構化輸出，以及低、中、高三種推理強度

• 架構 — 一個稀疏混合專家模型，總參數達 6,000 億，每個 token 啟用 270 億參數；此資訊來自 StepFun 的發布資料以及刊載該內容的模型卡鏡像，而 StepFun 自家的文件頁面並未列出參數數量

• StepFun 自家平台上的價格 — 每百萬個輸入 token 為 1.00 美元，每百萬個快取命中輸入 token 為 0.10 美元，每百萬個輸出 token 為 2.70 美元

那些都不是新的。這是十月公告所發布的基準，而它值得重申，因為第三方主機可以自由提供不同的量化方式、更短的有效視窗，或不同的快取配置，而這些選擇都不會出現在發布貼文中。

為什麼 1M 視窗才是真正在賣的部分

1M token 的上下文，正是這個模型之所以具備通路故事的根本原因。StepFun 是圍繞長時程代理式工作打造 Step 5 Preview 的，而這個視窗正是讓 repository 規模或文件集規模的提示詞得以在單次呼叫中完成、而不必透過你得自行建置與維護的檢索層的原因。在獨立評測平台上，Artificial Analysis 在其 Intelligence Index 上給予 Step 5 Preview 44 分，並計算出每完成一項索引任務的成本約為 0.71 美元——這個數字把冗長程度折算進價格之中，因此比價目表上的費率來得不那麼好看。同一頁面上的輸出速度讀數在不同擷取時間點之間有所變動，從每秒 88.1 到 99.8 個輸出 token，這本身就提醒我們，託管吞吐量既是模型的屬性，也同樣是主機端的屬性。

最後那一點，正是這則公告使其變得切題的一點。一個擁有 6000 億參數、其中 270 億為活躍參數的稀疏模型，在百萬 token 的上下文下，服務成本十分高昂，因為長提示的 KV 快取對每個並行請求而言都是實實在在的記憶體開銷。任何提供服務的人，都已就這段視窗要兌現多少、同時要執行多少請求，以及是否要量化注意力堆疊以便在一張卡上塞進更多請求，做出了決定。StepFun 自家的 FP8 檢查點在磁碟上是 650 GB，其 BF16 檢查點則是 1,215 GB；執行其中任何一個的宿主機器，都和 StepFun 所運行的是不同的機器，而廠商為自家叢集報出的吞吐量，並不是對別人家的承諾。

不會移動的數字：快取折扣

Step 5 Preview 的價目表對快取輸入提供 95% 折扣，讓重新讀取的 token 從每百萬 $1.00 降到 $0.10。對單輪請求來說，這無關緊要。但對這款模型實際主打的 workload——一個在每一輪都重新傳送相同系統提示、工具結構描述與儲存庫映射的代理迴圈——而言，它是帳單中的主導項，也是為什麼 Step 5 Preview 在長時間工作階段中的實際費率與其標價相去甚遠的原因。

提示快取是服務堆疊的實作細節，而非權重本身的屬性。特定主機是否提供這項功能、如何辨識快取命中、前綴能保持暖機多久，以及讀取時收取多少費用，全都是主機端的決定。StepFun 針對 StepFun 平台上的快取功能提供了文件說明。某個模型在其他地方上線的公告，對此毫無說明；在新主機的定價頁面上，這正是你應該仔細閱讀的特定條目，然後才能假設你在 StepFun 價目表上推估的經濟效益仍然成立。若某主機每一輪都按完整輸入價格收費，在相同工作負載下，其費用可能比 StepFun 高出數倍，儘管在頁面上每百萬個 token 看起來更便宜。

StepFun 在自家模型發布週的通路布局，以中國實驗室的旗艦模型而言異常廣泛，而且是分階段到位、而非一次到位：該模型在十月初以一週免費試用的形式，出現在第三方程式編寫工具中；而十月十六日宣布的第三方 API 代管，則是更晚、也更通用的一步。把這兩件事合起來看，模式就很清楚：這是一家想讓模型出現在開發者原本所在之處的實驗室，而不是把他們拉到自家主控台。這是個前後一致的策略，也是個有明顯代價的策略：每一個額外的代管商，都是另一個由別人的實作來界定模型適用範圍的地方。

值得問新主持人的三個問題

對這則公告，有用的回應不是切換，而是檢查。這三項要點決定了一個新端點是否為同一項產品。

• 量化——要問清楚目前服務的是哪個檢查點。StepFun 發佈了 FP8、BF16，以及自 10 月 14 日起、大小為 394 GB 的 NVFP4 版本；這三者在品質或記憶體佔用上都不能互換。在 Blackwell 上執行 NVFP4 的主機，跑的是四位元專家堆疊，而注意力與路由閘則維持原精度；這是否會犧牲你任務上的準確度，只有你自己的評估能回答。

• 有效上下文——要問的是：1M token 是提供給每位呼叫方，還是依方案層級設上限。提供百萬 token 的提示會帶來併發成本，而這種成本會先以速率限制、而非價格的形式顯現；一個對外宣傳這個上下文窗口、卻同時限縮併發的主機，宣傳的是模型的文件規格，而不是服務本身。

• 快取語意——要問重複前綴的成本是多少。這一行決定了長時間工作階段的成本效益，也是最可能被省略的一行。

對兩個端點跑同一個提示詞，並以「每完成一項任務多少美元」而非「每百萬個 token 多少美元」來衡量，就能一次回答這三個問題，而且只要花一個下午。

這讓模型處於什麼境地

Step 5 Preview 是一款 6000 億參數的稀疏混合專家模型，具備百萬 token 視窗、文字、圖像與影片輸入、64k 輸出上限、$1.00 / $2.70 的價目表，以及 StepFun 自家平台上 95% 的快取折扣，在唯一涵蓋它的獨立指數上得分 44。於 2026 年 9 月 20 日發布。截至 10 月 16 日，它也能以某種形式、某種價格，從至少一個非 StepFun 的主機取得。

值得直接說清楚，Step 5 Preview 並不在 OrcaRouter 的線上目錄中，因此要呼叫它仍得透過供應商自家的 API 或第三方主機——而如果你正在評估它，這個缺口正是把其餘技術堆疊留在單一端點的理由。一個 API 涵蓋 200 多個模型，並以供應商定價提供、不加價，這正是讓為期兩週的新模型實驗得以維持為實驗的關鍵：你的備援是一條路由規則，而不是第二套整合，自動容錯移轉意味著一個陌生的端點無法連帶拖垮你的正式環境路徑；而且由於直通的是供應商自家價格，供應商的費率變動會在生效當天就反映到你的帳單，而不是等到下一個合約週期。你正在測試的模型才是風險；圍繞它的基礎管線不該成為第二個風險。

下一個值得關注的對象不是另一家託管服務商。而是第一家把自身吞吐量、快取條款和量化方式都公布在同一個頁面上的託管服務商，如此一來，當支付 GPU 費用的人不是 StepFun 時，1M token 視窗究竟要花多少錢，就不再只能靠猜測。