Ling 3.0 Flash DSPark 的英雄標題卡,副標題為「默默為 Ling 3.0 Flash 出貨的 1.36B 起草者」,畫面顯示一張標記為「Drafter 1.36B」的小型起草者卡片,將一排 token 晶片傳遞給一張標記為「Ling 3.0 Flash 124B」的大型卡片,被接受的晶片上方有勾選標記,兩張卡片之間有一個快轉箭頭,右下角則有 OrcaRouter 標誌。
Engineering & Research

Ling 3.0 Flash DSPark:為 Ling 3.0 Flash 悄悄推出的 1.36B 草稿模型

作者

Elias Hawthorne

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

Ling 3.0 Flash DSPark 是一個擁有 13.6 億參數的草稿模型,由螞蟻集團(Ant Group)的 inclusionAI 實驗室於 8 月 9 日上傳至 Hugging Face,沒有附上新聞稿、沒有部落格文章,也沒有發布串文——截至本文撰寫時,該儲存庫僅顯示 7 次下載和 1 個讚。它並非 Ling 3.0 Flash 的新版本,也不是你會直接呼叫的模型。它是一個推測解碼(speculative decoding)元件:將它載入於 Ling 3.0 Flash 之前,它會提出 token 供大型模型驗證,讓 124B/5.1B MoE 每次前向傳播可輸出多個 token,而非僅一個。除此之外,凡是無法直接從儲存庫本身明顯確認的內容,均標記為未經證實,因為供應商沒有任何說明。

螞蟻集團於7月27日發布了Ling 3.0 Flash,並於8月7日以MIT授權將其權重開源。DSPark儲存庫則是一艘獨立且低調的船:它於8月9日建立,僅在模型卡中描述,將該檢查點標識為「Ling3的DSpark投機器」,並於8月21日再次更新了config.json。沒有公告、沒有文件頁面、沒有基準測試部落格文章。本文彙整了該儲存庫實際陳述的內容,並將其餘部分標記為開放問題。

什麼是「DSpark 投機者」,用白話說明

推測解碼會讓一個小巧、輕量的模型先行於真正的模型運行。小模型(草稿模型)猜測接下來的數個詞元;大模型(目標模型)在單次前向傳播中檢查整批猜測,並保留它認同的部分。當草稿模型猜對時,一次目標模型的前向傳播便能產生多個詞元,因此無需觸動目標模型的權重,吞吐量即可提升。

DSpark 是 DeepSeek 研究人員對那個構想的一種實現——於 2026 年 7 月推出,並已部署於 DeepSeek-V4 之中——也就是 SGLang 所稱的 DSPARK 演算法。它與一般的草稿模型有兩點不同。它擴展了 DFlash(一種平行草稿方法),並從目標模型本身提取輔助特徵,因此草稿模型能獲得關於大型模型正在做什麼的資訊。此外,它配備了一個信心頭(confidence head),會為每個提議的 token 評分,並在後綴看起來不太可能通過驗證時提早停止區塊——如此就不會把驗證流程浪費在即將被丟棄的 token 上。

A flow diagram titled 'How DSpark speeds up Ling 3.0 Flash' showing a card labeled 'Drafter 1.36B proposes 8 tokens' with a row of eight token chips flowing into a card labeled 'Target verifies in one pass' with a checkmark over the accepted chips, a note reading 'Confidence head trims low-confidence suffixes', and a footer 'A cheap model proposes, a strong model verifies — output is unchanged', with the OrcaRouter logo in the bottom-right corner.

Ling-3.0-flash-dspark 檢查點正好實現了這一點:一個使用 SpecForge 訓練的推測器,其規模設計為一次提出八個草稿 token 的區塊,在計入目標的獎勵 token 後,驗證寬度為九個 token。

儲存庫的原話。

這份模型卡的資訊雖簡略,但具體明確。Ling 3.0 Flash DSPark 是一個約 13.6 億參數的草稿模型(1,363,707,905 個參數,BF16),具有五層全注意力 Transformer 層,隱藏大小為 2,560,並採用多頭注意力機制,包含 32 個查詢頭和 32 個鍵/值頭。它從目標模型的五個層讀取輔助特徵——模型卡列出第 1、11、23、29 和 35 層——並將這些特徵與一個置信度頭配對,該置信度頭被描述為「樸素馬可夫頭,秩 256」。其位置嵌入的上限為 262,144,與目標模型所承載的 256K 上下文相同。

• 參數 — 1,363,707,905(~1.36B),BF16,權重約 2.7 GB。

• 架構 — 5 個全注意力層,隱藏大小 2,560,MHA 具有 32 個查詢頭與 32 個鍵/值頭;標記為 qwen3。

• 目標掛鉤 — 來自 Ling 3.0 Flash 第 1、11、23、29 和 35 層的輔助特徵

• 置信度頭 —— 標準馬可夫頭,秩 256。

• 阻擋 — 8 個輪抽指示物;驗證寬度為 9,包括目標加成指示物。

• 上下文 — 262,144 個位置嵌入,與目標的 256K 原生視窗相符。

A one-column scoreboard for Ling 3.0 Flash DSPark listing: role DSpark speculator (draft model), draft params 1.36B (1,363,707,905) BF16, block 8 draft tokens (verify width 9), mean acceptance 5.29 of 9 (vendor), context 262,144, license other — not yet stated, with a footer 'All figures vendor-reported; no independent scores yet', and the OrcaRouter logo in the bottom-right corner.

最後一行對部署規劃至關重要:草稿器是針對與目標模型相同的長上下文服務配置所建構,因此它不會縮小您可進行推測的上下文範圍。

驗收號碼,請仔細閱讀

該卡報告了一組效能數據:平均接受長度,定義為「每次推測驗證步驟中接受的 token 平均數量,包括目標獎勵 token」。在九個工作負載中,宏觀平均值為 5.29 —— 即每次驗證步驟中九個位置約有五個被接受,這正是驅動加速的數字。各工作負載的分布顯示了起草者的強項:

• 程式碼與數學 — GSM8K 6.40、MATH-500 6.29、HumanEval 6.57、MBPP 6.34、LiveCodeBench 5.33。

• 推理 — AIME 2025 5.56.

• 對話 — MT-Bench 3.92、Alpaca 3.51、Arena-Hard-v2 3.72。

這些數字附帶三點警示。它們是接受長度,而非端到端加速:該規格卡未公布每秒 token 數,因此「5.29 個接受 token」尚未轉化為此模型「快 x 倍」的宣稱。它們是供應商自行回報且未經重現的數據——inclusionAI 以外沒有任何人發表過測量結果。而且它們依賴上下文:接受長度會隨工作負載、取樣溫度和確切的目標檢查點而變化,因此請將程式碼與數學欄位視為最佳情況,將聊天欄位視為實際上的低標。

哪些已確認,哪些尚未確認

經公開儲存庫確認:該檢查點存在且可下載;它是適用於 Ling 3.0 Flash 的 DSpark 推測器;它是以 SpecForge 訓練而成;它透過 SGLang 的 DSPARK 演算法提供服務;它建立於 8 月 9 日,並於 8 月 21 日進行了最近一次更新。

尚未確認,且值得精確說明的是授權部分。該模型卡片的 frontmatter 標示 license: other,且未附上任何授權文字——因此,與採用 MIT 授權的 Ling 3.0 Flash 權重不同,DSPark 推測器的條款目前未明確說明。同樣未確認的還有:接受長度能否在其他硬體上重現、它們在端到端每秒 token 數上代表什麼、是否有任何推論供應商提供此草稿模型(目前並無跡象顯示有),以及是否會有官方公告。這些都不是指控;該發布至今不到兩週。它們正是一個前景可期的元件與一個經過驗證的元件之間的區別。

運行中

實際上,你需要一個支援 DSPARK 的 SGLang 建置版本——該演算法於七月在 SGLang v0.5.16 中正式落地,當時正是由 DeepSeek-V4 驅動的 DSpark 整合。針對目標模型啟動伺服器,並指定草稿模型(drafter):

sglang serve --trust-remote-code --model-path <LING3_MODEL_PATH> --tp-size <TP_SIZE> --speculative-algorithm DSPARK --speculative-draft-model-path <LING3_DSPARK_MODEL_PATH>

該命令來自模型卡片本身;區塊大小是從草稿模型的設定中讀取的。目前還沒有 llama.cpp 的路徑——混合式 KDA + MLA 架構即使對主模型也需要自訂分支,所以目前推測器是 SGLang 的範疇。

A screenshot of the Hugging Face model page for inclusionAI/Ling-3.0-flash-dspark, showing the model card 'Ling3-DSpark — A DSpark speculator for Ling3', the tags (text-generation, transformers, safetensors, qwen3, speculative-decoding, dspark, dflash, specforge, sglang), the draft model specifications (1,363,707,905 params, BF16, hidden size 2,560, 5 full-attention layers, MHA 32 query and 32 key/value heads, target auxiliary feature layers 1/11/23/29/35, confidence head vanilla Markov head rank 256, DSpark block size 8 draft tokens, maximum position embeddings 262,144), the acceptance-length section, license other, model size 1B params, and downloads last month 7 (captured August 22, 2026).

是否值得跑

Ling 3.0 Flash DSPark 只有當您自行提供 Ling 3.0 Flash 服務時才有效。它是一個本機元件:約 2.7 GB 的額外 BF16 權重,搭配 124B 目標模型、支援該演算法的 SGLang 建置版本,以及記憶體足以負擔的硬體。其回報是比典型的小型草稿模型更高的接受長度,代價則是記憶體和額外的活動部件。對於已經在自己 GPU 上以互動式、延遲受限的負載運行目標模型的團隊而言,這個草稿模型測量起來成本很低——兩個旗標、貪婪解碼,再看一眼每秒 token 數的差異。對於任何透過託管式 API 呼叫 Ling 3.0 Flash 的人來說,它則完全無關緊要:您無法將本機草稿模型掛載到別人的服務堆疊上。

模型卡片誠實度落差是需要審慎評估的主要事項。平均接受長度 5.29 是很強的數字——根據 LMSYS 的報告,DeepSeek-V4 的 DSpark 推測器回報的接受長度在 3.2–3.6 範圍內,而 Liquid AI 的 LFM2.5-2.6B 起草器平均為 4.83——但接受長度不等於加速;在有人針對這組確切配對發布端到端吞吐量數據之前,所能獲得的優勢大小仍只是估計值。

而這就是自架與託管混合方案成為真正決策點的地方。草稿器是在一個同樣以 API 形式提供的模型之前,再多一個自架元件——而讓這兩個選項保持可比性,正是路由層的職責。單一 API 涵蓋 200+ 個模型、供應商效能下降時自動容錯轉移,以及以 0% 加價轉傳供應商列表價格,讓你能夠自行運行 Ling-3.0-flash 伺服器來處理延遲關鍵路徑,同時將其餘流量路由至託管端點,並透過組態設定切換,而無需改寫程式碼。DSPark 草稿器不會改變 Ling 3.0 Flash 的運行位置;它改變的是當它運行在你的硬體上時的速度。

值得關注的開放問題

留意四件事。官方公告或部落格文章將補齊發布背後的遺漏脈絡。已發布的每秒Token數數據——無論來自inclusionAI或其他任何一方——都會將5.29接受率數字轉化為實際的加速幅度。授權從other改為具名授權,將清除生產環境使用最大阻礙。而開始提供已啟用推測功能的Ling 3.0 Flash的服務商,將改變完全不自行架設者的考量。

在那之前,Ling 3.0 Flash DSPark 正如其儲存庫所聲稱的那樣:一個真實、可下載、用於 Ling 3.0 Flash 的 1.36B DSpark 投機器,低調發布,帶有強勁但未經證實的接受度數據,且沒有公布的加速數據。這是一個可行的實驗基礎——也是對一個尚未被任何人獨立測量的組件的誠實描述。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新