一張生成的標題卡,上方寫著「Sage-S2.1-Flash vs Claude Haiku 5.5」,下方副標題為「一個 token 的成本 vs 一個上下文視窗的成本」,再下方有兩個標籤,分別寫著「10 萬 token 的價格斷崖」與「八張 H200」。白色背景,藍色與青色漸層點綴,扁平線條圖示。OrcaRouter 標誌合成於右下角。
Guides & Insights

Sage-S2.1-Flash 對比 Claude Haiku 5.5:Token 成本與上下文視窗成本之比較

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

Claude Haiku 5.5 和 Sage-S2.1-Flash 都宣稱具備一百萬 token 的上下文視窗,而相似之處大致就到此為止。Anthropic 於 2026 年 10 月 7 日發布的 Claude Haiku 5.5,有公開的價目表、獨立的排行榜分數,以及託管 API。上海人工智慧實驗室於 2026 年 11 月 15 日悄悄上傳到 Hugging Face 的 Sage-S2.1-Flash,則有 645 GB 的 MIT 授權權重、一份 21 位元組的模型卡,而且網路上任何地方都找不到價格。因此,要按每百萬 token 來比較兩者是不可能的——不是困難,而是不可能,因為計量表的其中一邊是空白的。

真正行得通的比較是另一種,也正是本頁要談的:各模型對長上下文收取的費用。在這條軸線上,兩者差距並不小,而答案也不是標價所暗示的那個。

兩個採購問題共用同一個基準名稱

先從各方實際上是什麼說起,因為這種命名容易讓人犯下範疇錯誤。Claude Haiku 5.5 是 Anthropic 小型層級中的專有文字與圖像模型——廠商將其定位為「高流量、對延遲敏感的任務,例如分類、擷取與路由」。它會進行自適應思考,effort 參數預設為 medium,最多可回傳 128,000 個輸出 token,並以 claude-haiku-5-5 之名,在 Anthropic 自家平台及四大雲端轉售通路上提供 API。

Sage-S2.1-Flash 是一個開放權重的科學代理模型:3200 億參數的混合專家模型,每個 token 啟用 180 億參數,建構於 GLM-5.3-Flash 架構之上,以 bfloat16 封裝,約 645 GB,分佈於 120 個分片。其設定宣告位置上限為 1,048,576 個 token、24 層視覺塔,以及明確的影像、影片、音訊與思考 token 類型。它採用 MIT 授權且可下載;截至 11 月 16 日,沒有任何推論服務供應商提供它,也沒有任何獨立評測框架對它評分。

其中之一是支出細項。另一個是一個週末和一臺 GPU 節點。這種不對稱就是整個比較,而下面的一切都是由它推導出的算術。

A generated two-column comparison scoreboard titled 'Sage-S2.1-Flash vs Claude Haiku 5.5 - the scoreboard'. The Sage-S2.1-Flash column reads: Price: none published; Context: 1,048,576 tokens; Weights: MIT, about 645 GB; Hardware: 8xH200 to self-host; Independent score: none; Long-prompt surcharge: none. The Claude Haiku 5.5 column reads: Price: $0.10 / $0.50; Context: 1,000,000 tokens; Weights: proprietary; Hardware: vendor-hosted API; Independent score: AA Index 36.5; Long-prompt surcharge: 5x above 100K. Footer: 'Sage figures the vendor's own, unaudited; Haiku 5.5 price from Anthropic, score per Artificial Analysis.' The OrcaRouter logo is composited in the bottom-right corner.

沒人寫進標題的 100,000-token 斷崖

Anthropic 將 Claude Haiku 5.5 的定價公布為兩個級距,而非一個級距,而第二個級距正是模型自身上下文宣稱變得昂貴的地方:

• 提示最多可達 {{1}}100,000{{/1}} 個 Token — 每百萬輸入 $0.10,每百萬輸出 $0.50

• 超過 100,000 個 token 的提示 — 每百萬輸入 token 0.50 美元,每百萬輸出 token 2.50 美元

• 快取寫入,五分鐘 — 每百萬 $0.125 與 $0.625,依相同比例拆分

• 快取讀取 — 100K 以下每百萬 $0.01,超過則每百萬 $0.05

• Batch API — 輸入與輸出皆享 5 折

這是五倍級的躍升,而且它正好在長上下文模型開始值得付費的提示長度上觸發。150,000 個 token 的提示搭配 5,000 個 token 的回答,輸入費用為 150,000 × $0.50/1M = $0.075,輸出費用為 5,000 × $2.50/1M = $0.0125,合計 $0.0875。在低於 100K 的費率下,同一通呼叫原本會是 $0.015 與 $0.0025——共 $0.0175。五倍的上下文窗口並不代表成本是 100K 呼叫的五倍;若以你片刻前支付的費率來衡量,相同 token 量下成本約為五倍,而該次特定呼叫的成本約為十一倍。

上面還疊加了第二層乘數,而且很容易被忽略,因為它藏在文件裡,而不是價目表中:Claude Haiku 5.5 採用的是隨 Claude 4.7 一起推出的分詞器,因此同一段文字所計入的 token 數,比在 Claude Haiku 4.5 上大約多出 30%。無論你為每份文件編列多少預算,在套用費率之前都要先乘以 1.3。Anthropic 對此說得異常明確,這點值得肯定,但對天真粗略的成本模型所造成的影響卻很真實:一個從 4.5 遷移到 5.5、token 估算卻維持不變的工作負載,將會超支將近三分之一。

這些都不會讓 Claude Haiku 5.5 在絕對成本上顯得昂貴。每百萬輸入 $0.10 是所有現行前沿相鄰模型中最便宜的費率,而獨立排行榜也認同這個級別並非玩具:Claude Haiku 5.5 在最高投入下於 Artificial Analysis Intelligence Index 獲得 36.5 分,高於 DeepSeek V4.1 Flash 的 32.6 與 Gemini 3.8 Flash 的 30.8。重點更狹義也更實用:在這個模型上,提示長度才是價格槓桿,而非模型選擇。

當你自己擁有權重時,長上下文要付出什麼代價

現在對 Sage-S2.1-Flash 做同樣的計算。沒有費率表,所以 token 在邊際上是免費的——但視窗不是,因為你總得把權重放在某處。InternLM 自己的部署指南指明了參考配置:八張 H200 GPU、bfloat16、張量並行度為八。

這筆算術不華麗,卻具決定性。八張卡上共 645 GB 權重,約等於每張卡 81 GB。一張 H200 搭載 141 GB HBM,這讓每張卡還剩下約 60 GB,供 KV 快取、活化值,以及視覺塔的工作集使用。指南明確指出,在 Hopper 上不要使用 FP8 KV 快取,因此那 60 GB 是以 bfloat16 來花用——這是目前每 token 最昂貴的快取格式。在那樣的資源範圍內,百萬 token 的上下文是達得到的,但這只是因為模型的混合注意力讓大多數層保持線性:45 層中有 34 層使用設定所稱的 kda 線性注意力類型,只有 11 層使用帶有 top-2,048 索引的稀疏注意力。在傳統的 45 層 Transformer 上,百萬 token 的 KV 快取根本放不下。

所以,誠實的成本比較不是「免費對上 0.10 美元」,而是「八張 H200,由你自行決定規格並租用,對上一個按用量計費、用量超過 100K 後價格漲為五倍的 API」。第一個方案要在多少使用率下勝過第二個,完全取決於你租那些 GPU 的每小時費率,以及它們一天有多少時間在忙;而由於我們沒有公開的 Sage 價格,也沒有其獨立吞吐量數字,任何人向你報出損益兩平點,都是在憑空捏造。

Screenshot of the OrcaRouter model page for anthropic/claude-haiku-4.5. The header shows a 200K-token context, 64K max output, vision, tools, JSON and reasoning tags, a release date of 2025-10-15, and the price row $1.00 input and $5.00 output per million tokens. A context window of 200,000 tokens and an output limit of 64,000 tokens are stated in the page's model description, along with text, image and file inputs.

證據缺口,直白地說

兩個模型都有基準測試數據。只有其中一組能對照任何東西來查核。

Claude Haiku 5.5 由第三方機構實測。Artificial Analysis 在最高投入程度下,將其於 Intelligence Index 評為 36.5,並回報輸出速度達每秒 257 個 token。這是經稽核的數字,來自一套對其收錄的每一個模型執行相同測試的評測框架,正因如此,這個數字才足以作為決策依據。

Sage-S2.1-Flash 僅由其作者測量。InternLM 的數字存放在一個以製表符分隔的檔案中,該檔案位於 11 月 16 日建立的 GitHub 儲存庫裡,並發布到 internlm.github.io/Sage-S2.1-Flash 的靜態網站上,而 Hugging Face 模型卡並未連結到該網站。該表格有 35 列,將 Sage 與八個模型比較。其表現強勁的列是科學與視覺類別——BabyVision 為 75.8,對上 Claude Opus 5 的 63.1;OSWorld-G 為 84.8,對上 DeepSeek-V4.1-Flash-1017 的 61.4;OfficeQA Pro V2 為 72.2,是其自身表格中的最佳數字。其程式設計列則平平無奇:SWE-bench Pro 60.6、DeepSWE 67.0,兩者都落後於 DeepSeek V4.1 Flash。

Claude Haiku 5.5 完全沒有出現在那張表裡。Gemini 3.8 Flash 也沒有。因此,讀者搜尋這組對決時真正想要的那個比較——便宜的託管模型對上可下載的科學模型——兩邊都沒有廠商資料,其中一邊也沒有獨立資料。我們能說的是,Sage 公布的資料列在科學基準上處於 Opus 等級的範圍,而其程式設計資料列則低於一個每百萬輸入收費 0.30 美元的模型;至於 BabyVision 上二十四個百分點的差距,究竟是真實能力,還是這款模型對某項基準的解讀方式不同,沒有測試框架就無法判斷是哪一種。

Screenshot of Anthropic's Claude Platform documentation page for Claude Haiku 5.5. The page states a 1M-token context window, a 128K max output, and pricing 'from $0.10' input and 'from $0.50' output per million tokens, and notes that the model uses the same newer tokenizer as Claude 4.7 and later models, so the same text counts as approximately 30 percent more tokens than on Claude Haiku 4.5. A 'How it compares' table lists Claude Fable 5.2, Claude Opus 5.5, Claude Sonnet 5.5 and Claude Haiku 5.5 with their context, output, price, latency and default effort.

各自真正勝出之處

剔除無法比較的部分,就能留下乾淨的切分。

• 大量且對延遲敏感的工作 — 毫不猶豫選 Claude Haiku 5.5。分類、擷取、路由與子代理呼叫,每百萬 token 只要 $0.10/$0.50,還有公開評分,這已是成熟解。Sage-S2.1-Flash 在此毫無競爭力:你等於要租八張 GPU,來做一套按用量計費的 API 只需幾分錢就能完成的工作。

• 100K 至 1M 個 token 之間的提示——這確實有爭議,且取決於使用率而非優劣。Claude Haiku 5.5 在此區間收取其基礎費率的五倍;Sage 則向你收取已租用硬體的攤銷成本。如果你的節點很忙,Sage 在成本上勝出;如果不忙,則不然。

• 科學多模態輸入 — Sage-S2.1-Flash,依據其自身宣稱。分子圖、晶體結構、蛋白質序列、光譜、質譜、XRD、ECG、EEG 與光變曲線,是 InternLM 表示其訓練時所用的輸入,而它是兩者中唯一在文件裡列出這些項目的模型。請將其視為設計陳述,而非實測結果。

• 本週需要簽約的任何項目——Claude Haiku 5.5。一款有定價、狀態頁面,以及不早於 2027 年 10 月 7 日的退役承諾。另一款則有空白模型卡,而且在撰寫本文時的下載量為零。

• 資料駐留與權重所有權 — Sage-S2.1-Flash,無條件。你可以持有、稽核與微調的 MIT 權重,是與 API 截然不同類別的資產,而任何價格差異都改變不了這一點。

決定大多數遷移的那個關鍵底層細節

如果你要在這兩者之間遷移長上下文管線,卡關的點不會是品質,而是斷詞與工具呼叫。

Claude Haiku 5.5 更換了 tokenizer 世代,這意味著你針對 Claude Haiku 4.5 調校過的每一個提示詞都需要重新量測,而任何假設 token 預算的切塊策略現在大約有 30% 的誤差。Anthropic 正好為此發布了一份遷移指南,在你動手改任何設定檔之前,值得先讀一讀。

Sage-S2.1-Flash 有同一個問題的更棘手版本,而這是其部署指南中唯一值得優先閱讀的項目。它的分詞器必須從儲存庫載入——vLLM、SGLang 或 LMDeploy 中內建的分詞器會把工具呼叫標記這類代理式語法編碼成控制 token,而非文字,而模型會提前結束一輪,卻不會顯示任何錯誤。那之後還有兩個陷阱:在 vLLM 上,若沒有套用單一檔案修補,亂序的平行工具呼叫會把圖片附加到錯誤的結果;而 SGLang 除非明確提供檔案,否則會覆寫聊天範本。就遷移而言,實際後果是 token 計數的工作會加倍——一次是為了 Anthropic 的新分詞器,一次是為了 InternLM 的自訂分詞器——而且兩者都無法從另一方估算出來。

那三項在實務上,正是「Sage-S2.1-Flash 是我評估過的模型」與「Sage-S2.1-Flash 是我放棄了的模型」之間的差別。它們全都有文件記載,這比大多數低調發布的版本所能做到的還要多。

在沒有價格的情況下做出決定

Claude Haiku 5.5 目前不在 OrcaRouter 的型錄中;它存在於 Anthropic 自家的 API,以及透過各大雲端轉售通路提供,我們不會暗示其他情況。實際路由的是前一代 —— anthropic/claude-haiku-4.5,每百萬 token 輸入 $1.00、輸出 $5.00,以原價轉嫁、不加任何加成 —— 這仍是 Anthropic 小型層級在 5.5 層級將其成本砍到十分之一之前的誠實基準。用你實際的提示跑過 4.5,就能在同一 tokenizer 家族上取得實測的 token 數,而實測 token 數是唯一能解決上述 100K 斷崖問題的東西:你的流量是落在它之下、之上,還是橫跨兩端,將決定整個比較的結果,這是任何一列評測數據都做不到的。

當供應商最終公布 Sage-S2.1-Flash 的價格,或有獨立測試框架對其評分時,價格傳導模式就很重要:一份能在供應商降價當天就反映其牌價的目錄,正是避免每季重新協商這項比較的方法。

什麼會改變這個頁面

一個數字就能完成大部分工作:Sage-S2.1-Flash 的每 token 價格。有了它,一邊是 100K 的懸崖,另一邊是攤銷後的節點,兩者就能構成真正的損益平衡計算,而不只是一個輪廓。第二個數字幾乎也同樣有幫助——Sage 的獨立分數,最好是在同一套把 Claude Haiku 5.5 評為 36.5 的評測框架上,這樣兩者就能相減,而不是靠敘述。

在那之前,站得住腳的立場是這樣的。Claude Haiku 5.5 是執行大量小事時較便宜的選擇,而它正好在上下文窗口變得有趣之處開始變貴。Sage-S2.1-Flash 是擁有極大型模型時較便宜的選擇,而它還不是能用來買任何東西的方式。在兩者之間做選擇,不是關於基準測試的品味問題,而是關於你的工作負載是以 token 還是以節點來衡量的問題——而如果你還無法回答這一點,誠實的下一步是為你自己的流量計價,而不是再讀一篇比較。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新