
Sage-S2.1-Flash 低調發布:645 GB 權重、21 位元組的模型卡,以及一張無人附上連結的基準測試表
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 90 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 96 tok/s
- orca新Orca: OrcaC2 1.02026-11-0717 tok/s
- Orca新OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 87 tok/s
- Orca新OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 133 tok/s
- Orca新OrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 每百萬 tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 43 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 152 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百萬 tokens · 119 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百萬 tokens · 219 tok/s
2026 年 11 月 15 日 02:34 UTC,一個屬於上海人工智能實驗室的帳號將名為 internlm/Sage-S2.1-Flash 的儲存庫上傳到 Hugging Face。其中包含 120 個 safetensors 分片,總計約 645 GB,一份設定檔、一個聊天範本,以及一份 21 位元組的 README。沒有部落格文章。我們在 11 月 16 日抓取該實驗室自家首頁時,上面完全沒有提到這個名稱。我們找不到任何新聞稿,Artificial Analysis 上也沒有 Sage-S2.1-Flash 的條目。
到那個週末結束時,真正存在的,是讀者可以查核的三樣東西:權重本身、一份為打算在八張 H200 上提供服務的人所寫的部署指南,以及一張託管於 GitHub Pages 微型網站、而模型儲存庫從未連結過去的基準測試表。本文是對這三者的盤點,並清楚劃分檔案能證明什麼,以及 InternLM 尚未說明什麼。

儲存庫,逐個檔案
證據異常乾淨,因為數量實在太少。11 月 16 日的一份目錄清單列出 155 個檔案。其中 120 個是權重分片,每個約 5.35 GB。其餘則是多模態模型的組成元件:20 MB 的 tokenizer.json、10.5 KB 的 chat_template.jinja、5.9 KB 的 config.json、一份溫度設為 1.0、top_p 設為 0.95 的生成設定、deployment_guide.md,以及兩個目錄——一個存放 vLLM 修補程式,一個存放搭配感知模型的投影器。
README 值得好好琢磨。二十一個位元組,而且每一個位元組都是 YAML frontmatter:
• 一條水平分隔線,然後是一行顯示 license: mit,然後再一條水平分隔線。
這就是整張模型卡的全部內容。沒有描述、沒有基準測試表、沒有使用範例片段、沒有引用區塊、沒有論文連結。Hugging Face 把它呈現為一個有標題、MIT 徽章和空白內文的頁面。該儲存庫有一個讚,而且截至撰寫本文時,下載次數為零——對這個規模的模型而言,這與其說是品質的訊號,不如說是能負擔這顆硬碟空間的人少之又少。
檔案清單中有兩個較小的細節值得記錄下來,因為它們比任何公告都更能說明這次發布的時間。FP8 量化的同系列模型 internlm/Sage-S2.1-Flash-FP8 建立於 11 月 13 日 15:04 UTC——大約比 bfloat16 儲存庫{{2}}早{{/2}} 35 小時。早而 bf16 儲存庫的最後一次提交,時間是 11 月 16 日 03:01 UTC,內容僅是一句「Upload folder using huggingface_hub」,與最初上傳時的訊息完全相同。無論是哪種工作流程產生了這一切,它都不是一次經過精心策劃的發布。
實驗室確實撰寫的那一份文件
deployment_guide.md 是 InternLM 隨附在 repo 中唯一的散文式說明文件,也是裡面資訊最豐富的檔案。它的開頭句子就是完整的規格說明:
Sage-S2.1-Flash 版本是一個 320B-A18B 多模態 MoE 模型,以 bfloat16 權重格式儲存(約 645 GB)。
三個數字,而 Hub 自身的中繼資料確認了其中兩個。模型頁面上的參數量顯示為 3,210 億,差了一億,這幾乎肯定是四捨五入慣例所致,而非彼此不一致。儲存容量數字與 internlm 的儲存庫中繼資料核對後為 642.8 GB,吻合。「A18B」——每個 token 180 億個作用中參數——是 InternLM 自己的用語,無法從設定獨立推導出來,因此應視為廠商提供的數字。
config.json 補足了其餘部分,而它是一份確實很有意思的文件。該模型有 45 層,其中只有 11 層使用傳統稀疏注意力。其餘 34 層使用一種線性注意力層類型,設定檔稱之為 kda,並由 linear_attn_config 中的逐層清單作為鍵。路由為 288 個專家,其中一個共享專家,每個 token 選取八個,路由縮放因子為 2.5。位置上限為 1,048,576 個 token。有一個視覺塔——深度 24、448 像素影像、patch 大小 14——而 token 詞彙表帶有明確的 image、video、image-start、image-end、video-start 與 video-end token。

最重要的架構路線
部署指南中有一句話,重新界定了整個發行版本的定位。它寫道 Sage-S2.1-Flash「採用 GLM-5.3-Flash 架構」,並指示讀者依照 Z.ai 官方的 GLM-5.3-Flash 操作指南來安裝與調校 vLLM 和 SGLang,只需將其中一個儲存庫名稱替換成另一個。
這點在設定中已獲確認:架構類別是 Glm5NextForConditionalGeneration,模型類型是 glm5_next。因此,一個 Shanghai AI Laboratory 的模型是建立在 Z.ai 架構之上發佈的,而該實驗室坦然說明此事,而非加以隱藏。GLM-5.3-Flash 本身就是一個 3200 億參數、180 億活躍參數的多模態 MoE,具備 100 萬 token 上下文與 128K 輸出上限——也就是說,其參數形態也並非巧合。
對任何正在決定是否要部署這個的人來說,那句話是這次發布中最有價值的一項資訊。這意味著推論服務的方案並非全新;這意味著相關做法、核心層工作與已知失效模式,都是已經針對一個自八月起就公開的模型記錄過的內容。這也意味著 InternLM 新增的修補程式值得仔細閱讀,因為它們確切描述了其模型與基礎模型不同之處。
若你直接照原樣提供這次發行版,會有問題的三種情況
仔細讀來,這份部署指南其實是一份陷阱清單。每一個陷阱都是無聲的失敗,而不是錯誤,而這正是危險的那種。
• 缺少 --trust-remote-code 會無預警地破壞工具呼叫。 代理軌跡會以一般文字的形式包含 <|user|> 和 <tool_call> 這類字串。此儲存庫隨附自己的分詞程式碼,會將它們視為文字;若沒有這個旗標,引擎會載入預設分詞器,將它們編碼為控制符元,模型可能提前停止或損毀工具呼叫。完全不會留下日誌。
• vLLM 需要一個單檔修補,否則影像會被附加到錯誤的工具結果上。當平行工具呼叫回傳的順序與發出時不同,聊天範本會依呼叫順序呈現結果,而 vLLM 則依訊息順序收集影像。每張影像都會在無聲無息中落到錯誤的結果上,模型便針對錯誤的圖片作答。此修正會替換 vllm/renderers/hf.py;上游修正正在進行中,見 vllm-project/vllm#67108。
• 除非你把該檔案交給 SGLang,否則它不會使用此儲存庫的聊天範本。 SGLang 預設會為此架構安裝自己的內建範本,這會完全繞過儲存庫的分詞器;你必須下載 chat_template.jinja,並透過 --chat-template 傳入。
, non-streaming responses, truncate reasoning, swallow a tool call, streaming unaffected. Need preserve "There are two more constraints in the same document." = 同一份文件中還有兩項限制。 "FP8 KV cache is not supported on Hopper GPUs, so on H100s and H200s you keep the BF16 cache." = Hopper GPU 不支援 FP8 KV 快取,因此在 H100 和 H200 上仍須使用 BF16 快取。 Maybe "keep" = 保留. "And LMDeploy needs transformers between 5.17 and 5.19, because 5.19 renames the layer type deepseek_sparse_attention to indexed_attention and LMDeploy rejects the new name." = 而 LMDeploy 需要 5.17 至 5.19 之間的 transformers,因為 5.19 會將層類型 deepseek_sparse_attention 重新命名為 indexed_attention,而 LMDeploy 會拒絕這個新名稱。 Need maybe "transformers" lowercase name preserve? Brand/product names preserve. Keep "transformers" as is. "The guide also flags an open vLLM issue — vllm-project/vllm#64326 — where a literal </think> in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." = 指南也指出一個尚未解決的 vLLM 問題——vllm-project/vllm#64326——在非串流回應中,字面上的 </think> 可能會截斷推理內容或吞掉工具呼叫;串流則不受影響。 "open issue" = 未解決的 issue / 開放中的問題. "flags" = 標示/指出. "literal </think>" preserve. "swallow a tool call" maybe "吞掉工具呼叫". Good. Need only translated text no preamble. Ensure Traditional Chinese punctuation. "Hopper GPU" maybe "Hopper GPU". "H100s and H200s" = H100 和 H200. "BF16 快取". "FP8 KV 快取". "non-streaming responses" = 非串流回應. "streaming" = 串流. "reasoning" = 推理內容. "tool call" = 工具呼叫. "layer type" = 層類型. "renames ... to" = 重新命名為. "between 5.17 and 5.19" = 5.17 到 5.19 之間. Good. Need no markers. Final only.同一份文件還有兩項限制。Hopper GPU 不支援 FP8 KV 快取,因此在 H100 和 H200 上仍須使用 BF16 快取。而 LMDeploy 需要 5.17 到 5.19 之間的 transformers,因為 5.19 會將層類型 deepseek_sparse_attention 重新命名為 indexed_attention,而 LMDeploy 會拒絕這個新名稱。指南也指出一個尚未解決的 vLLM 問題——vllm-project/vllm#64326——在非串流回應中,字面上的 </think> 可能會截斷推理內容或吞掉工具呼叫;串流則不受影響。
這些都不代表這個模型不好。它代表的是,這次發布正處於這樣一個階段:撰寫它的人仍然是唯一運行過它的人,而他們正是在告訴你這一點。
不在儲存庫中的基準表
InternLM 確實公布了評測數字——共 35 項,涵蓋 Terminal-Bench 2.1、DeepSWE、SWE-bench Pro、APEX-Agents、GDPval、OfficeQA Pro V2、Harvey LAB、OSWorld-Verified、BrowseComp、BabyVision,以及另外二十多項。這些數字不在模型卡裡,因為模型卡是空的。它們存放在一個獨立的 GitHub 儲存庫 InternLM/Sage-S2.1-Flash 中,該儲存庫建立於 11 月 16 日 03:34 UTC,描述為「Sage 2.1 Flash 雙語網站與應用程式示範」,並會在 internlm.github.io/Sage-S2.1-Flash 建置靜態網站。基準測試資料以 Tab 分隔檔和 JSON 檔的形式提交在那裡,旁邊還有模型操作 3D Slicer、Blender 和 Fiji 的示範影片。
該網站的英文文案開頭是「Today, we introduce Sage 2.1 Flash, a frontier scientific multimodal agent model」。所以這則公告確實存在——只是它位在一個 GitHub Pages 主機上,而 Hugging Face 儲存庫中沒有任何內容指向那裡,而且它是在權重已經可供下載之後才建立的。如果你想看廠商自己的說法,那就是那段文字:單一模型支援十多種科學輸入,包括分子圖、晶體結構、蛋白質序列與 3D 結構、DNA 與 RNA、光譜、質譜、X 光繞射、心電圖、腦電圖與光變曲線。
評估表將 Sage 2.1 Flash 與八款模型進行比較:GLM-5.3-Flash、DeepSeek-V4.1-Flash-1017、Qwen3.8-Max、GPT-5.6 Sol、Claude Opus 5、GPT-6 Astra、GPT-6.1 Sol 與 Claude Opus 5.5。表內每個數字皆由廠商自行提報。目前沒有公開的測試框架、沒有執行日誌、沒有逐項任務明細,也沒有任何第三方重現過其中任何內容。請將這張表視為該實驗室表達的意圖,而非測量結果。
供應商表格異常強勁與異常薄弱之處
有兩種模式格外突出,而兩者都比頭條分數更具資訊量。
首先,科學與視覺這幾列正是差距離譜的地方。BabyVision 上,Sage 讀到 75.8,而 GLM-5.3-Flash 是 51.3、DeepSeek-V4.1-Flash-1017 是 58.0、Claude Opus 5 是 63.1。OSWorld-G 上讀到 84.8,而 DeepSeek 是 61.4。OfficeQA Pro V2 上讀到 72.2,是該表最高,領先 Claude Opus 5 的 67.2。當一個模型在某一列領先二十四分,要嘛這個能力是真的,要嘛是這個基準對這個模型的讀法跟對其他模型不同——而在沒有公布測試框架的情況下,你無法分辨是哪一種。
第二點是,程式編碼列是本次發布中最不討喜的文件。Terminal-Bench 2.1 的 87.9 很強但並非領先;Qwen3.8-Max 為 89.6,Claude Opus 5 為 90.2。SWE-bench Pro 的 60.6 落後於 DeepSeek-V4.1-Flash-1017 的 64.7 與 Qwen3.8-Max 的 65.3。DeepSWE 的 67.0 落後 DeepSeek 的 73.9 近七分。對於一個以代理式能力為行銷賣點的模型來說,那是其作者自己選擇公開的一張表,這點本身就有些意義。
這張表未包含的內容也同樣值得注意:Claude Haiku 5.5 和 Gemini 3.8 Flash 都缺席,因此大多數人最想要的這兩項比較,根本無法從廠商資料中做出來,無論是哪個方向都一樣。

哪些已確認,哪些尚未確認
把週末的證據分成兩堆,是讀者能對它做的最有用的事。
• 經檔案確認——權重確實存在,並以 MIT 授權提供下載;120 個分片,約 645 GB,bfloat16;45 層,其中線性注意力與稀疏注意力為 34/11 的配置;288 個路由專家,top-8;1,048,576 個 token 的位置上限;一個視覺塔與影像/影片 token;以及兩天前發布的 FP8 同系列版本。
• 經廠商自家指南證實——總參數量 320B、活躍參數量 18B;GLM-5.3-Flash 架構;以 8×H200 作為參考部署;五個已記錄的 serving 陷阱。
• 由廠商自行提報、未經重現——每一項基準測試分數皆然,包括 BabyVision 上 24 點的差距,以及 OfficeQA Pro V2 的 72.2。
• 尚未確認——費用是多少。到處都沒有價格:不在 Hub 上、不在指南中、也不在微型網站上。「Try the API」按鈕指向 discovery.intern-ai.org.cn,而該網址在非 JavaScript 的抓取下只回傳一個近乎空白的殼層;我們無法從外部確認該模型是否能在該處呼叫、以什麼識別碼呼叫,或按什麼費率計價。
• 同樣未經證實——這到底算不算是「推出」,也就是這個詞通常所指的意義。沒有公告、沒有以這個名稱為題的論文、沒有合作夥伴存取權,還有一張可能由腳本生成的模型卡。
如何在不必把生產路徑押在它上面的情況下看待它
對多數團隊來說,實務上的問題不是「這是否比我目前跑的東西更好」,而是「這值不值得花一小時」。在 bfloat16 下是 645 GB,這不是能下載到筆電的規模;誠實的入門方式是租一台 8×H200 節點、花一個下午研讀部署指南,並接受你正在跑一個沒有人發表過評測框架的模型。
在那一切之前,成本更低的實驗,是把架構系列當成捷徑來解讀。InternLM 在自己的指南中表示,該模型建立在 GLM-5.3-Flash 架構上,並應遵循 Z.ai 針對它提供的服務配方,只需把一個儲存庫名稱替換成另一個。這表示基礎架構——相同的 320B/18B 規模、相同的混合式稀疏與線性注意力、相同的百萬 token 上限——今天就能透過託管 API 測試,而非透過你得先找齊的八張 GPU。如果基礎模型在你的科學文件上已經運作良好,衍生模型就是值得下載的改良版。如果不然,你就省下了一個週末。
OrcaRouter 在這裡真正能派上用場的地方,就在於「我們想試試看」與「我們能正式提供服務」之間的落差。自動容錯移轉讓你能把實驗性端點置於某項策略之後,而不必讓它成為唯一路徑:如果新模型回傳格式錯誤的工具呼叫——而且只要你略過旗標或修補程式,部署指南就會確切告訴你它會如何發生——請求便會落到你已經信任的模型,而你能保留追蹤記錄。這是比一次性評估腳本更好的蒐集證據方式,因為它能在真實流量上蒐集證據。
什麼能讓這件事定下來?
三件事,按用處由低到高排列。模型卡會告訴我們實驗室認為這個模型適合什麼用途,而且大概會附上目前還卡在 GitHub Pages 主機上的同一張表。登上獨立排行榜的一筆條目,則能讓人用通用測試框架扣除廠商自報的優勢幅度。而一個價格——任何價格,無論在哪裡——都會讓 Sage-S2.1-Flash 從一次下載變成一個決定。
在其中任何一項成真之前,準確的描述就是檔案所支持的那一種:一個大型、以 MIT 授權、經過科學調校的多模態 MoE,建構於公開架構之上,發布時沒有隻字片語的說明,而其作者至今仍在修補服務堆疊。這並非無足輕重。它也還不是產品,而這個差別對那些必須實際運行它的人最為重要。
