
Ling-3.0-flash:我們目前所知關於螞蟻集團開放權重快速層級 MoE
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百萬 tokens · 186 tok/s
- openai新OpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 每百萬 tokens · 86 tok/s
- openai新OpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 每百萬 tokens · 151 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百萬 tokens · 192 tok/s
- Alibaba新Qwen: Qwen4 Max2026-11-16$1.50 / $4.50 每百萬 tokens · 86 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 705 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百萬 tokens · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百萬 tokens · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 每百萬 tokens · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 101 tok/s
Ling-3.0-flash —— 螞蟻集團 InclusionAI 的快速層級 MoE,於 2026 年 7 月 24 日發布、8 月 7 日以 MIT 授權開源 —— 如今已有具體的單裝置部署路徑。10 月 27 日,NVIDIA 公布一份技術配方,顯示該模型的 FP4 版本在單台 DGX Spark 上以每秒 53.89 個 token 的速度解碼,較 37.81 tok/s 提升 42.5%,涵蓋全部 1,319 道 GSM8K 題目,且準確率在統計上沒有變化。這些是 NVIDIA 在其自有硬體上自行測得的數據,並非獨立第三方實測,且僅適用於批次大小為 1。它們不能取代下方的託管 API 數據。然而,它們確實讓該模型先前模糊的「單台 DGX Spark 部署路徑」變成一份已公布的配置,具備基準線、協定與有記錄的失效模式。
模型本身並未改變。它是原生的混合推理混合專家模型,總參數為 124B、每個 token 啟用 5.1B 參數,並作為 Ling 系列中快速、低成本的一層而打造;其 MIT 授權的權重自 8 月 7 日起已置於 Hugging Face 與 ModelScope。自本文 8 月版本以來,改變的是圍繞它的相關紀錄。Artificial Analysis 的評估(本文在 8 月曾引用)在其 Intelligence Index 上給 Ling-3.0-flash 評為 38 分,並將其置於智慧對總參數的開放權重 Pareto 前沿。AA 的即時頁面現在將該模型標示為已棄用、改推 Ling-3.1-flash,將讀者導向該處,且不再顯示目前的 Intelligence Index。38 仍是此 checkpoint 取得的最後一個獨立分數;它不是即時數字。
本次修訂納入了十月的 DGX Spark 測量結果,並修正八月文章中已變動的部分——AA 目前的速度數據及其棄用狀態——同時保持來源標籤不變。若某個數字僅以螞蟻集團或 NVIDIA 為唯一來源,句子會註明這一點。
TL;DR。Ling-3.0-flash 是螞蟻集團的快速層級開放權重 MoE:總參數 124B/啟用參數 5.1B、MIT 授權、原生 256K 上下文(實際服務時為 262K)。它已不再是 Ling 系列的最新版本——AA 已將其標記為棄用,改以 Ling-3.1-flash 取代——但它仍可供使用、有文件記載,且現在已有經實測的單一裝置配置方案。NVIDIA 於 10 月 27 日公布的 DGX Spark 配置,在 GSM8K 上以批次大小 1 執行時達到 53.89 tok/s,較其自身基準高 42.5%,此為廠商回報數據。在託管 API 上,AA 目前列出 243 輸出 tok/s 與 2.79 秒的首字延遲(time-to-first-token)。仍僅有廠商數據:Ant 的 1,100+ tok/s 峰值輸送量聲稱、低於 100ms 的 TTFT 數字,以及模型卡上的基準測試表。第一方 API 定價為每 100 萬個 token 輸入 $0.075/輸出 $0.22(快取命中享 80% 折扣);上線時的免費方案已於 8 月 3 日結束,而 Ling Studio 的 75% 折扣促銷已於 8 月 31 日結束。
重點摘要
• 這是快速/低成本層級,並非旗艦。前一代的 1T 參數旗艦仍是 InclusionAI 最大的模型;Ling-3.0-flash 則是更小、更快的兄弟產品,鎖定高流量的文字與工具呼叫。
權重仍依 MIT 授權公開。它們於 8 月 7 日登上 Hugging Face(inclusionAI/Ling-3.0-flash)與 ModelScope,而 NVIDIA 為 DGX Spark 記載的 MXFP4 版本,也與 BF16 和 FP8 檢查點一同推出。
• 這項獨立評分如今已成歷史。本篇文章在八月引用的 AA 測試中,該模型獲得 38 分,比 Ling-2.6-flash 高出 24 分,並使其登上開放權重帕雷托前沿;AA 的即時頁面現在已將該模型標記為棄用,改以 Ling-3.1-flash 取代,且未顯示目前的 Intelligence Index。
• 速度有三個參考基準點,而且這三者不能互換。AA 目前列出託管 API 上的輸出速度為 243 tok/s;NVIDIA 在單台 DGX Spark、批次大小為 1 時測得 53.89 tok/s;Ant 仍聲稱在指定的叢集硬體上可達 1,100+ tok/s。
• 定價已確定,促銷活動也已結束。每 1M tokens 為 $0.075 輸入/$0.22 輸出,並享有 80% 快取命中折扣;上線免費方案已於 8 月 3 日結束,Ling Studio 的 75 折優惠期則於 8 月 31 日結束。
它是三模型家族中的一員。InclusionAI 將其產品陣容分為 Ling(通用文字與工具 MoE,即本模型)、Ring(推理)與 Ming(多模態)。
關於如何閱讀本次更新:這是對 7 月 24 日預覽版及先前 8 月 8 日修訂版的修訂。10 月 27 日的 DGX Spark 結果是新增內容;AA 的更正屬於例行整理,以免文章引用一個已不存在的現行分數。以下每一項規格、基準測試與價格都標明來源。
我們實際上所知
此架構已在模型卡上完整記錄。Ling-3.0-flash 採用原生混合線性注意力堆疊——Kimi Delta Attention(KDA)與 Gated MLA 層以 5:1 比例交替(35 層 KDA + 7 層 MLA,共 42 層),並具備 KDA 細粒度對角閘控——建立在 1/64 稀疏 MoE 之上(512 個路由專家,每個 token 啟用 8 個,另加一個共享專家)。這就是它如何以僅 5.1B 活躍參數達到 124B 總參數。上下文視窗原生為 256K,在推論配置中以 262,144 個 token 提供服務,而 Ant 宣稱此架構可擴展至 1M。最大輸出長度未揭露。此模型為純文字並支援工具呼叫;多模態輸入則屬於獨立的 Ming 系列。
實驗室發布了兩種權重格式——BF16(約 255GB)與 FP8(約 128GB)——社群量化變體則可從模型卡取得連結。DGX Spark 配方採用第三種:MXFP4 組建,可容納該裝置的 121GB 統一記憶體。實驗室自家的部署配方以 SGLang 和 vLLM 為目標;NVIDIA 的 Spark 路徑則使用來自 InclusionAI 的 SGLang 組建,並額外加入 Humming MoE 後端。
可用性:採用 MIT 授權的開放權重
8 月 7 日,螞蟻集團 InclusionAI 團隊在 Hugging Face(inclusionAI/Ling-3.0-flash)與 ModelScope 上,以 MIT 授權條款開源了模型權重。這是寬鬆、可商用的授權條款——Ling 2.0 與 Ling 2.6 發布時採用的也是同一套——這意味著你可以自行託管、微調並部署 Ling-3.0-flash,而不必透過 API 租用。該模型也可透過螞蟻自家的開發者 API 及多個第三方平台呼叫。對於這個價位上的快速層級模型,值得關注的問題已不再是你能否自行託管,而是一台 121GB 的裝置是否足夠。InclusionAI 的 Ling Cookbook 現在收錄了一份由螞蟻集團與 NVIDIA 共同掛名的 DGX Spark notebook,而它使用的 MXFP4 檢查點也與其他格式一併發布。下節內容就是對這個問題的首個實測答案。

獨立評分:八月的結果,如今已成歷史
與七月文章相比,最大的單一變化是出現了獨立評測數字。本篇文章在八月引用的 Artificial Analysis 評估,在智慧指數上給 Ling-3.0-flash 評為 38 分——比前一代快速層級 Ling-2.6-flash(14)高 24 分,並與 MiMo-V2.5 和 Qwen 3.6 27B 同分,卻只啟用它們參數的一小部分。AA 也將該模型置於以智慧對總參數衡量的開放權重帕雷托前沿上:當時,沒有任何總參數更少的開放權重模型得分更高。AA 上快速層級的開放權重領先者 DeepSeek V4 Flash 得分仍更高(在最大推理強度下指數為 52)。
該紀錄後來已作廢,而非被推翻。AA 的 Ling-3.0-flash 即時頁面現在已將該模型標示為棄用,改以 Ling-3.1-flash 為準,引導讀者前往較新的模型,且不再顯示目前的 Intelligence Index。38 仍是這個模型檢查點所獲得的最後一項獨立評分;請將其視為當時的結果,而非即時排名。如果你今天要選擇 Ling 模型,應進行的比較是與 Ling-3.1-flash 對比,而 AA 目前有涵蓋該模型。
該次評估中的代理式與長上下文結果也同樣呈現強勁的方向性。在 AA 的 τ3-Bench Banking 測試套件中,Ling-3.0-flash 得分 27%,在 flash 級開放權重模型中排名第二,僅次於 DeepSeek V4 Flash(39%)。在 GDPval-AA v2 上,它的 Elo 達到 1108,較 Ling-2.6-flash 的 545 提升。Ant 在超過 10,000 個互動環境中訓練該模型(廠商報告),並將其定位為代理工作流程的執行節點——快速、便宜且可即用即棄,繁重的推理則留給更大的旗艦模型。
關於資料來源的一點提醒:Ant 模型卡上的基準測試表——SWE-Bench Pro 56.6、SWE-bench Multilingual 72.4、MathArena AIME 2026 93.2、HLE 22.7——是廠商自行提報的,尚未經過獨立重現。請將其視為該實驗室自身的說法,與下方的峰值速度數據屬於同一類別。
速度:三個數字,三種不同的設定
速度這件事現在有三個數字,首先要做的就是別再把它們當成同一種測量值。
在託管 API 上,Artificial Analysis 目前列出每秒 243 個輸出 token,以及 2.79 秒的首字延遲。這低於本篇貼文在八月報導的 368 tok/s 與 1.98 秒——AA 的供應商面板與測試執行會變動,今天應引用的是即時頁面。它仍將該模型排在速度等級中接近頂端的位置。
在單台 DGX Spark 上,NVIDIA 回報在 GSM8K 上、批次大小為 1 時每秒可解碼 53.89 個 token,相較其自身基準提升 42.5%。這是本機、單一使用者的數字,無法與 API 輸送量數據相比,也不是併發結果。下一節將詳細剖析。
在指定的叢集硬體上,Ant 聲稱平均輸出速率超過每秒 1,100 個 token,且首 token 延遲低於 100 毫秒,其分層快取層建構於 SGLang HiCache 與 Mooncake 之上。這仍僅限於廠商自身數據——是在 Ant 所控制的硬體與批次設定下測得,並未公布獨立的重新執行結果。規劃時,託管工作採用 AA 的數據,單台 Spark 採用 NVIDIA 的數據,並將 1,100+ tok/s 視為上限,需在你自己的工作負載上驗證。
一台 DGX Spark:42.5% 實際衡量的是什麼
10 月 27 日,NVIDIA 技術部落格發布了一份指南,說明如何在單台 DGX Spark 上部署 Ling-3.0-flash-fp4;DGX Spark 是配備 121GB 統一記憶體的 GB10 桌上型系統。InclusionAI 的 Ling Cookbook 收錄了對應的 notebook,並由螞蟻集團與 NVIDIA 共同署名。螞蟻集團自己的說法則將這項工作描述為與 NVIDIA 的技術合作。這是一項嚴謹的基準測試,而非示範:涵蓋全部 1,319 道 GSM8K 題目、五次示例思維鏈(five-shot chain-of-thought)、批次大小 1、temperature 0.6、top-p 0.95、top-k 29,以及 32,768 個 token 的上限。
基準是 W4A8 組建,並以 FlashInfer 的 MXFP4 MoE 核心、CUTLASS 稠密 GEMM 與 32 位元 LM head 提供服務。在該基準上,解碼速度為 37.81 tok/s。疊加三項變更後,速度達到 53.89 tok/s——即標題所稱的 42.5%。每個輸出 token 的平均時間從 26.45 毫秒降至 18.56 毫秒(−29.8%),平均端到端延遲從 15.21 秒降至 11.49 秒(−24.5%),P50 從 8.36 秒降至 6.11 秒,P95 從 50.20 秒降至 38.60 秒。GSM8K 準確率從 96.89% 變為 96.82%,NVIDIA 稱這 0.08 個百分點的差異在統計上無法偵測。首個 token 的平均時間基本持平,從 0.207 秒變為 0.214 秒。這些是解碼階段的增益,而非預填充階段的增益。
這三項變更針對不同的成本:
• Humming MXFP4 MoE 核心會取代 FlashInfer 後端。Humming 會在執行階段透過 NVRTC,針對模型的確切形狀編譯核心——包括其僅 768 寬的窄幅 MoE 中間大小——並將這些核心快取於 ~/.humming/cache。在 NVIDIA 的合成測試中,光是這項改動就讓輸送量提升 9.3%。
• LM head 的線上 FP8 量化。此 head 在 checkpoint 中維持 BF16,而其 157,184 × 2,560 GEMM 在每個 token 上都會讀取完整的權重區塊;在載入時將其量化為 FP8 可使該讀取量減半。可透過 SGLANG_ENABLE_FP8_LM_HEAD=1 啟用,這與 baseline 的 --enable-fp32-lm-head 衝突,且相較於單獨使用 Humming 可額外增加 11.4%。
• NEXTN 多 token 預測。模型內建的 NEXTN 層會草擬三個 token,並驗證一個四 token 的視窗。在 GSM8K 上,每輪平均接受的草稿長度為 2.68 個 token。
同一篇貼文中還有第二個更醒目的數字:合成 32K 輸入/2K 輸出工作負載在批次大小為 1 時,從 36.09 上升到 102.88 tok/s,增幅 +185.1%。NVIDIA 本身警告不要將此結果推廣。該次執行採用貪婪解碼、固定 2K 輸出與重複性文字;每輪接受量達到 3.90 個 token,相較之下 GSM8K 為 2.68。42.5% 的 GSM8K 數字才是應據以規劃的依據。185.1% 則是最佳情況下的合成上限。
有一個營運上的陷阱比加速效果本身更值得注意。FP8 LM-head 量化與 MTP 唯有在草稿模型共用目標模型的整個 LM-head 模組、而不只是共用其權重張量時,才能組合運作。少了這層介面,框架會無聲地回退,把 FP8 權重當成 BF16 讀取,使接受率掉到 1.00,最終甚至可能比未經最佳化的基準還慢。NVIDIA 的建議是在啟動時就驗證每一項最佳化是否確實啟用,而不是事後從計時數據推斷。
對讀者而言,這改變了什麼:單一 Spark 路徑不再是廠商投影片。它是一份已公開的實作配方,包含基準值、量測協定,以及明確說明的失效模式——足以讓你在自己的裝置上重現或否定。它沒有改變什麼:這仍是 NVIDIA 自家的量測,在單一裝置上、批次大小為 1、針對解碼(decode)。它完全沒有提及並行服務、長上下文輸送量或託管 API。而且它僅適用於 FP4 建置;BF16 與 FP8 檢查點有不同的記憶體與頻寬特性。
定價:便宜,而且促銷已經結束了
Artificial Analysis 列出第一方 API 的價格為每百萬輸入 token $0.075、每百萬輸出 token $0.22,快取命中則為 $0.015(−80%);這些全數皆為供應商設定的定價。首發免費方案(每日 50 萬免費 token、免費 API 使用權)已於 8 月 3 日結束。Ling Studio 的臨時 75% 折扣期持續至 2026 年 8 月 31 日;自 9 月 1 日起已按牌價收費。即使以完整牌價計算,$0.075/$0.22 仍讓 Ling-3.0-flash 穩居低價區間,尤其考量到該模型在該評測中的 Index 為 38。
在價格這麼低的情況下,轉換成本比每 token 價格更重要。OrcaRouter 的職責,是讓這項比較中的託管端保持誠實:用一個 API 支援 200+ 個模型、供應商定價以 0% 加價原樣轉嫁,並跨供應商自動容錯移轉。本地 DGX Spark 部署必須勝過真實的當前市場價格,而不是廠商簡報上的數字——而當託管供應商調整價格時,原價轉嫁會在同一個金鑰上、同一天反映出來。
凌 / 林 / 明家族
Ling-3.0-flash 並非孤立存在——InclusionAI 將其發布的模型劃分為三個具名系列,每個系列針對不同的任務。Ling 是通用 MoE 系列,用於日常文字生成與工具呼叫,而 Ling-3.0-flash 位於其快速/低成本的一端,比前一代的 1T 參數旗艦低一階。Ring 是專注於推理的系列,為多步思維鏈而打造。Ming 是多模態系列。若你的任務需要更重的推理或圖片輸入,合適的 InclusionAI 模型大概不是 Ling-3.0-flash——它是為文字與工具領域中的大量處理與速度而打造。
適用對象:四種情境
1. 高吞吐量、延遲敏感的文字或工具呼叫管線
這是此模型的主場。憑著 MIT 授權、已公開的單一 Spark 部署配方,以及一份註明日期的獨立 Index 38 評分,這個快速層級的押注是可測試的,而非空談——你可以用自己的評估集跑一遍,或下載權重自行託管。只是在你的工作負載上實測之前,別圍繞供應商所稱的 1,100+ tok/s 上限來建置。
2. 想要在預算內獲得長上下文的團隊
256K 原生上下文(實際提供 262K),並宣稱有通往 1M 的發展路徑,價格為 $0.075/$0.22,對檢索密集型或文件處理工作而言是很有吸引力的組合。模型卡上的長上下文數據由供應商自行報告,因此請將它與既有的長上下文選項一起列入候選名單,並在正式採用前用自家語料庫驗證。
3. 觀察者追蹤中國的MoE領域以及InclusionAI路線圖
七月的那個問題——InclusionAI 會不會維持開放?——如今有了答案:會,MIT 授權,而且動作很快。Ling-3.0-flash 以 5.1B 活躍參數登上 AA Pareto 前沿,這只是其中一個資料點。十月的 DGX Spark 配方則是第二個:一個 124B 模型在單一台桌上型機器上、batch size 為 1 時,解碼速度達 53.89 tok/s,而且配方已公開。
4. 桌上配有一台 DGX Spark 的團隊
如果你已經擁有這台機器,NVIDIA 的配方就是第一個值得照抄的配置:MXFP4 建置、InclusionAI 的 SGLang 分支、Humming MoE 核心、FP8 LM head,以及 NEXTN MTP。請把它視為單一廠商在批次大小為 1 時的測量結果,並在啟動時驗證 FP8 與 MTP 部分確實已啟用——無聲回退的故障模式確實存在。如果你沒有 Spark,這個配方只是關於 121GB 統一記憶體能換來什麼的一個資料點,而不是購買它的理由。
什麼仍未驗證?
一份簡短清單,如今重大缺口已補上。Ant 的峰值速度宣稱(1,100+ tok/s、TTFT 低於 100ms)仍未有獨立重新量測。模型卡上的基準測試表仍屬廠商自行提報。FP4/INT4 版本與單一 DGX-Spark 路徑已不再模糊——NVIDIA 公布了組態,InclusionAI 則釋出該 notebook——但 53.89 tok/s 與 96.82% 的數字是 NVIDIA 自己在單一裝置上、批次大小為 1 的測量結果,並非第三方重現。獨立評分已是歷史資料:本文於八月引用的那項評測給了它 38 分,而現行頁面現在已將該模型標記為棄用,改以 Ling-3.1-flash 取代。而在知識方面,該評測的 Omniscience Index 顯示,相較前一世代的提升主要來自拒答——幻覺率下降(97% → 44%),而準確率僅小幅上升(16% → 18%)——因此別把 Index 的亮眼躍升誤當成知識面的全面躍進。
何時不應使用
進行多模態工作時,請跳過 Ling-3.0-flash——那是 Ming 系列的路線。如果你需要的是重型推理旗艦,而不是快速執行器,也請跳過它——那是 Ring 的領域。如果你打算自行託管,請為實際硬體編列預算:BF16 約需 255GB,FP8 約需 128GB,而 MXFP4 版本才是能裝進 121GB DGX Spark 的那一個。如果你是全新選擇 Ling 模型,而不是維護既有部署,請先與 Ling-3.1-flash 比較;AA 已將其涵蓋範圍移到那裡。另外,如果某項說法對你很重要,請驗證它——在獨立實驗室重新執行之前,峰值速度和長上下文數字都是 Ant 的。
常見問題
Ling-3.0-flash 是開放權重的嗎?
是的。這些權重已於8月7日在MIT許可證下開源,發布於Hugging Face(inclusionAI/Ling-3.0-flash)和ModelScope。這是一個寬鬆且可商用化的許可證——與Ling 2.0和Ling 2.6發布時所使用的許可證相同。
Ling-3.0-flash 在基準測試上的表現如何?
Artificial Analysis 的評估(這篇貼文在 8 月曾引用)在 Intelligence Index 上給它 38 分,比 Ling-2.6-flash 高 24 分,並使其位於開放權重模型中智慧與總參數比較的帕雷托前沿。AA 的即時頁面現在將該模型標記為已棄用,改以 Ling-3.1-flash 取代,且未顯示目前的 Intelligence Index,因此 38 是歷史結果。Ant 模型卡上的基準測試表(例如 SWE-Bench Pro 56.6)是供應商回報的,尚未經獨立重現。
它到底有多快?
針對三種不同配置,共有三個不同的數字。AA 目前列出託管 API 上每秒 243 個輸出 token,以及 2.79 秒的首 token 延遲。NVIDIA 回報在單一 DGX Spark 上、批次大小為 1 時,解碼速度為 53.89 tok/s。Ant 則聲稱在指定叢集硬體上可達 1,100+ tok/s 以及低於 100ms 的 TTFT。只有 AA 的數字是獨立測量;其餘兩項是供應商在不同硬體上的測量結果。
Ling-3.0-flash 的價格是多少?
AA 列出第一方 API 價格為每 100 萬輸入 token 0.075 美元、每 100 萬輸出 token 0.22 美元,並提供 80% 的快取命中折扣。上線免費方案於 8 月 3 日結束,Ling Studio 的臨時 75% 折扣期間於 2026 年 8 月 31 日結束。
Ling、Ring和Ming之間有什麼區別?
Ling 是 InclusionAI 的通用文字與工具呼叫 MoE 系列,而 Ling-3.0-flash 位於其快速、低成本的一端。Ring 是專注於推理的系列。Ming 負責多模態任務。它們是針對不同工作的獨立家族,而非同一個模型的不同等級。
Ling-3.0-flash 能在單台 DGX Spark 上運行嗎?
是的。NVIDIA 於 10 月 27 日發布了一套配置方案,針對單台 DGX Spark(121GB 統一記憶體)上的 MXFP4 版本,採用 Humming MXFP4 核心、FP8 LM head 與 NEXTN 多 token 預測。該方案回報在批次大小為 1 時,於 1,319 道 GSM8K 問題上的解碼速度為 53.89 tok/s,提升 42.5%,準確率達 96.82%。這些結果由 NVIDIA 自行取得,未經獨立重現,且僅在批次大小為 1 時成立;將 FP8 與 MTP 結合時,草稿模型必須共用完整的 LM head,否則吞吐量可能低於未最佳化的基準。
我應該在生產環境中使用Ling-3.0-flash嗎?
它是一個成熟的開放權重模型,但已不再是最新的 Ling:AA 已將其標記為棄用,改以 Ling-3.1-flash 取代。若你已在執行 Ling-3.0-flash,DGX Spark 的配方是一項值得實際複製的具體最佳化。若你正重新挑選,請與 Ling-3.1-flash 比較,並執行你自己的評估集;MIT 授權與 $0.075/$0.22 的價格仍讓它成為可信的廉價層級。
重點
Ling-3.0-flash 已不再是 Ling 系列最新的型號,AA 的即時頁面也如此顯示。它擁有大多數開放權重模型從未有過的條件:經過實測的單一裝置配置——一台 DGX Spark、批次大小為 1 時解碼速度 53.89 tok/s、GSM8K 上 96.82%,並同時公布基線、協定與失效模式。請把 42.5% 理解為 NVIDIA 自己的結果,而非獨立評判,並把 8 月指數的 38 視為歷史。在上述限制之內,該模型仍是可信的本地快速層級選項;如果你要從頭開始,首先該做的比較是 Ling-3.1-flash。
