Ling-3.1-flash-1019 現已開源：574 GB、MIT 授權，以及對 256K 的現實檢驗

10 月 27 日 05:46 UTC，Ant Group 的 Ling 團隊在 Hugging Face 建立了名為 Ling-3.1-flash-1019 的儲存庫，並以 MIT 授權放入 54 個 safetensors 分片，總計 573.8 GB。旁邊是 Ling-3.1-flash-base，一個用於進一步訓練的 1.14 TB BF16 檢查點；而兩者背後則是 Ling-3.1-flash，本次版本正是該模型的後訓練修訂版。五天前，Ant 只公布了分數：在 Artificial Analysis Intelligence Index v4.3.2 上為 44，高於 41，並承諾提供權重與 API。如今這項承諾有了檔案清單，這使得今天成為 Ant 評估流程之外的人首次能夠核實這個數字、而非只能閱讀它的日子。

那道落差正是重點，而這件事有兩面。實驗室在釋出成品前先公布基準測試結果，等於要人憑信任接受；而實驗室隨後在五天後才釋出成品，大小 574 GB、採寬鬆授權，至少交出了讓人得以提出異議的手段。現在有意思的問題已不再是分數，而是下載內容裡有什麼、提供服務要花多少成本，以及模型卡上的 1M token 上下文是否真是你實際得到的上下文。

儲存庫裡實際上有什麼？

1019 儲存庫不是薄適配器，也不是增量差異。它是一個完整檢查點：54 個權重檔案，每個約 10.7 GB，還有一個分詞器、一個聊天範本，以及自訂建模程式碼（BailingMoeV3ForCausalLM），此程式碼需要 trust_remote_code。隨附的設定宣告了 FP8 量化方案（E4M3，128×128 區塊縮放），而該方案建立在 Ling 系列自 3.1 以來所使用的混合線性 MoE 架構之上：

• 總參數與活躍參數——總計 560B，每個 token 活躍 25B，與 Ling-3.1-flash 的數字相同。

• 層 — 共 72 層：63 個 KDA 線性注意力層與 9 個閘控 MLA 層，比例為 7:1，另有 4 個稠密層。

• 專家 — 512 個路由，每個 token 啟用 8 個，1 個共享。

• 詞彙量 — 157,184 個 token；隱藏層大小 4,096。

• 佔用空間 — 573.8 GB 的 safetensors，分散於 54 個分片，根據我們於 10 月 27 日從儲存庫檔案清單所作的統計。

基礎模型是另一種形式的產物。Ling-3.1-flash-base於 10 月 25 日建立，包含 121 個檔案與 1.14 TB 的 BF16 權重——大約是對齊後檢查點的兩倍大小，因為它尚未量化為 FP8。其說明卡將其描述為 Ling-3.1-flash 的基礎檢查點，用於持續預訓練、領域適應與後訓練研究，並明確表示若未經對齊，並不適合直接用於對話或安全關鍵用途。兩個儲存庫皆帶有 MIT 標籤。

44，以及 Ant 沒有測量的部分

Artificial Analysis 將Ling-3.1-flash-1019列在其 Intelligence Index 的 44 分，在我們今天所讀的頁面上於 122 個模型中排名第四；其模型頁面指出，這些評估是由 Artificial Analysis 獨立測量的。這是該數字迄今所呈現的最強形式，值得將其與發布表的其餘部分分開來看。

各基準測試的差值來自 Ant 自家的模型卡，而非獨立重跑：AA-Briefcase 從約 1,400 Elo 升至 1,524 Elo，AutomationBench-AA 從 62% 升至 68%，CritPt 從 18% 升至 26%，SciCode 從 54% 升至 57%。其中兩個基準測試——AA-Briefcase 和 AutomationBench-AA——是 Artificial Analysis 指數的組成部分，因此該指數數值與廠商表格彼此並非獨立證據。它們是同一主張的兩種解析度呈現。在有人公布測試框架與種子之前，請把 44 視為由 AA 測得，並把前後配對數據視為廠商回報。

第二個不對稱。量測當時，Artificial Analysis 並未記錄到 1019 版本有任何公開可用的 API，而該模型的輸出速度欄位至今仍空白。因此，如今若要重現這項基準測試，只能自行下載 574 GB 並親自執行。這不是在抱怨這次發布；而是在描述「開放」帶來了什麼改變。在今天之前，沒有人能重現這個分數。在今天之後，任何有硬體的人都能做到。

這三點是用代幣購買的

這項指數是品質衡量指標，而非效率指標；而本次發布在效率方面的表現，是其中最不討喜的部分。Artificial Analysis 測得 1019 run 的輸出 token 為 350M，Ling-3.1-flash 則為 220M——完成同一套測試套件時多生成了約 59% 的 token——並在冗長度上將這個新版本排在 48 個中的第 48 名，而中位數模型為 140M。其執行該指數的成本為每項任務 1.49 美元，前代則為 1.01 美元。

其中有些算術，你可以直接從 Ant 自己的價目表算出來。以每百萬輸出 token 0.90 美元計算，350M token 的輸出費用是 315 美元，而 220M 是 198 美元——這是在尚未計入任何一個輸入 token 或快取讀取之前的 117 美元差距。對一個按任務而非按 token 編列預算的團隊來說，這個「免費」的檢查點升級，為了換取指數上升三點，更接近帳單增加 47%。這筆交易划不划算，完全取決於一次失敗任務對你造成多少成本，而這是排行榜不會回答的問題。

設定檔中的上下文視窗為 256K

模型卡上寫的是 100 萬 token 上下文。實際隨附的設定卻不是這麼回事。在全部三個儲存庫——1019、Ling-3.1-flash 與 base——中，config.json 都將 max_position_embeddings 設為 262,144，並將 rope_scaling 設為 null，RoPE theta 為 6,000,000。因此，以原生 SGLang 或 vLLM 載入這些權重時，僅能提供 256K 個位置，而非一百萬個，除非操作人員提供儲存庫中未包含的縮放設定。

這是我們對已公開設定檔的解讀，並非 Ant 的聲明。託管的 Ling API 可能在伺服器端套用縮放方案，並確實提供 1M；開放權重則沒有附帶這樣的方案。這也不是新的不一致——10 月 15 日發布的 Ling-3.1-flash 在相同的 262,144 設定上，也帶有相同的 1M 宣稱。任何要為百萬 token 工作負載規劃硬體的人，都應先在自己的技術堆疊上測試上限，再做出承諾，因為真正重要的是伺服器接受的數字，而不是簡介裡的數字。

為它提供服務：八張 H200、四張 GB300，還有一個複製貼上的陷阱

Ant 推薦 SGLang，並發布 day-0 映像檔 lmsysorg/sglang:dev-ling-3.1-flash，具備 MTP 推測解碼與 Hopper 解碼最佳化。文件記載的參考配置為八張 H200 GPU，採 TP8 加 EP8；在四張 GB300 上，模型卡建議使用 --tp 4 --ep 4。文中也附上 vLLM 配方，包含張量平行度 8、專家平行、前綴快取與三個推測 token。據稱兩個環境旗標 SGLANG_ENABLE_FP8_BLOCK_GEMV 與 SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT 可讓 Hopper 上批次大小為 1 的解碼速度提升約 10%。

記憶體佔用量說明了這份硬體清單。在 573.8 GB 的 FP8 權重下，該檢查點在八張 H200（1,128 GB HBM）上留下約 550 GB 的餘裕，在四張 GB300（1,152 GB）上則留下約 578 GB。這足以容納權重與可用的 KV 快取，但不足以在長上下文情境下掉以輕心。

快速入門裡還有一個陷阱值得特別提醒，因為它會害人白白浪費一天。1019 模型卡自己的 SGLang 指令會傳入 --model-path inclusionAI/Ling-3.1-flash，而它的用戶端範例則送出 "model": "Ling-3.1-flash"。若一字不差照做，這套做法會載入 41 分的前代模型，而不是 44 分的版本。請明確將路徑指向 inclusionAI/Ling-3.1-flash-1019，並固定所服務的模型名稱，否則你第一次對「1019」做的基準測試，將會是對舊檢查點做的基準測試。

Ling-3.1-flash-base 的用途——以及它不適用於什麼

對於訓練模型而非呼叫模型的人來說，基礎版發布是兩者中更具實質影響的一個。一個以 MIT 許可證發布、採用相同 560B/25B 架構的 1.14 TB BF16 檢查點，為實驗室提供了一個合理的起點，可用於持續預訓練、領域適應、監督式微調、偏好優化、蒸餾實驗和長上下文 MoE 研究，而不必從一個聊天對齊模型開始，再設法消除其拒答行為。

它沒給你的，是做出 44 的配方。這張卡把 base 描述成 Ling-3.1-flash 的基礎檢查點，而不是 1019 建置在後訓練前的快照；而且兩個儲存庫都沒有附上後訓練資料、偏好資料集或 RL 配置。如果你要的是實測模型，就下載實測模型。如果你想自己打造，base 能幫你省下預訓練的成本，但省不了對齊工作——而一個調校良好的 base 與廠商最佳的後訓練檢查點之間的差距，通常比指標上三分的差距所暗示的還要大。

你應該選 574 GB 嗎？

• 若你已運行八張 H200 或四張 GB300、你的工作負載屬於代理式或多步驟，且 MIT 授權能移除你實際面臨的法律障礙，就下載它。

• 如果你需要自己重現這 44 個，就把它下載下來 —— {{1}}這現在已經做得到了，而在 10 月 22 日時還做不到。{{/1}}

• 如果你原本指望開箱即用就有 1M 上下文，那就跳過它；先測試 256K 設定。

• 若你的成本結構是按任務計價且對延遲敏感，就跳過它。59% 的 token 增幅是實實在在的吞吐量成本，而且目前還沒有關於 1019 的獨立輸出速度數據。

• 只有在你有後訓練流程時，才從基礎模型開始。它是基礎，不是捷徑。

誠實說明 OrcaRouter 在此扮演的角色：我們不提供 Ling-3.1-flash-1019。我們販售的是這項決策的另一面——用一把金鑰就能以供應商牌價、0% 加價使用 200+ 個代管模型，因此「1019 是否勝過我目前使用的模型」這個問題，不必為每個基準模型分別簽訂合約就能回答。自動容錯移轉與路由 DSL 在你選定贏家後才有用；它們無法幫你做出選擇。

接下來要看什麼

有三件事將決定這次發布能否經得起時間考驗。第一是獨立吞吐量：Artificial Analysis 沒有 1019 的輸出速度數據，而第一家公布每秒 token 數的第三方供應商，會比再一個指數分數更能說明它是否適合生產環境。第二是 1M 上下文的擴展配置是否會出現在儲存庫或 SGLang cookbook 中；在那之前，這張模型卡的頭條數字只是一個宣稱，其下仍是 256K 的實作。第三是社群會怎麼運用這個基礎模型——若有一個微調版本在狹窄領域上勝過 44，那將是最有力的證據，證明開放這些權重比它發布時附帶的分數更有價值。