一張生成的標題圖卡,將 NVIDIA Nemotron 3.5 Super VL 與 Qwen3.8-Max 以四個面板進行比較:參數為總計 120B、啟用 12B,對比總計 2.4 兆、啟用 95B;價格為未公布費率,對比每百萬輸入 $2 與每百萬輸出 $6,並享有 88% 快取折扣;權重為 OpenMDW-1.1 可下載,對比專有託管端點;硬體為可在 4xH100 或 2xGB200 上自行託管,對比無需部署。頁尾註明 Qwen3.8-Max 的指數數據來自 Artificial Analysis,而 Nemotron 的數據為 NVIDIA 所報告。OrcaRouter 標誌合成於右下角。
Guides & Insights

Nemotron 3.5 Super VL 對決 Qwen3.8-Max:開放權重梯隊迎戰按量計費前沿

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

本季要規劃文件處理管線的人,恰好有兩種形態可選,而它們並不是同一種形態。NVIDIA Nemotron 3.5 Super VL是 OpenMDW-1.1 下一個 1200 億參數、120 億活躍參數的視覺語言檢查點,其權重於 2026 年 10 月 12 日上線,比 NVIDIA 自己在 10 月 15 日的公告早了三天:你下載它、自己託管,並以 GPU 和電力付費。Qwen3.8-Max則是阿里巴巴的專有旗艦——一個 2.4 兆參數的混合專家模型,具備 950 億活躍參數、視覺輸入、100 萬 token 上下文視窗,並按 token 計費,每百萬輸入 token 2 美元、每百萬輸出 token 6 美元,另有 88% 快取折扣。一個是擁有完整控制權的資本支出;另一個是附有價目表的營運費用。這項比較中的其餘一切,都是這個分野的下游結果。

兩個商業模式披著標竿比較的外衣

人們很容易把這些模型按能力排開,直接宣告誰是贏家。這種框架掩蓋了真正的決策重點:失效模式由誰掌控。使用 Super VL 時,如果輸送量不如預期,你可以重新訓練、重新量化,或購買不同的硬體——天花板由你來拉高。使用 Qwen3.8-Max 時,如果輸送量不如預期,你只能更改模型字串,或去協商;天花板屬於 Alibaba,路線圖也是。

這項差異從兩家廠商各自發布的內容中清楚可見。NVIDIA 發布了技術報告、訓練配方、開放資料集、強化學習環境,以及該系列三條各自獨立的推測解碼路徑——這正是打算用於部署與修改的模型會有的配套機制。Qwen 則發布了附有價目表與快取折扣的 API,這正是打算用來取用的模型會有的配套機制。

Super VL 能帶給你什麼,是託管端點所無法提供的

NVIDIA Nemotron 3.5 Super VL 是一款混合式模型:交錯的 Mamba-2 層、每層 MoE 有 512 個路由專家的混合專家架構,以及精選的注意力層,並結合 C-RADIO 視覺編碼器與視覺語言連接器。輸入的是文字、圖像與視訊影格;輸出的是文字。其語言主幹以 Nemotron 3 Super Base 初始化,從 Nemotron 3 Ultra Base 蒸餾了一兆個 token,接著經過 350 億個 token 的擴展至 1M 上下文、軟體工程中期訓練與長上下文恢復階段。原生多重 Token 預測無需另設草擬器即可提供推測解碼。它可在 4×H100 或 2×GB200 上以 BF16 執行,並具備 NVFP4 版本與用於生產部署的 NIM 微服務。

• 你所擁有的一切——權重、分詞器、視覺編碼器、後訓練流程,以及稽核軌跡。每一個提示都留在你的邊界內,而對保險、信貸、醫療或國防業務而言,這不是偏好,而是必要條件。

• 你付出的代價——加速器。四張 H100 跑全精度是入場門檻,而成本曲線取決於使用率:閒置時昂貴,滿載時近乎免費。

• 你放棄的是——一份價目表。截至 2026 年 10 月 16 日,尚無任何來源公布 Super VL 的價格,因此你今天建立的任何總成本比較,都是依據你自己的吞吐量測量結果,而非供應商提供的數字。

Qwen3.8-Max 能給你什麼,是 checkpoint 無法提供的

Qwen3.8-Max 每個 token 會從 2.4 兆參數池中啟用 950 億個參數,可接受圖像與文字,且預設的上下文視窗略低於一百萬個 token。在 Artificial Analysis 上,它的 Intelligence Index 為 45,比 NVIDIA Nemotron 3.5 Super VL 在同一指數上記錄的 26 高出十九分——而且與本頁大多數數字不同,這兩項都是第三方測量值,而非供應商聲稱。

• 你會得到什麼 —— 一位前沿等級的通用型模型,具備視覺能力,只要一組 API 金鑰,今天下午就能開始呼叫。無需硬體、無需維運、無需容量規劃。

• 你支付的費用——每百萬個 token 輸入 $2、輸出 $6,且快取輸入可享 88% 折扣,這會改變任何具有大型穩定前綴的工作負載的成本效益:冗長的系統提示、固定文件、長期存在的工具結構描述。

• 你放棄了什麼——權重。無法下載、無法在本機部署、無法對服務模型進行微調,也無法將資料保留在你自己的硬體上。

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against Qwen3.8-Max across six dimensions. The Super VL column reads: parameters 120B total and 12B active; compute per token 12B active; weights OpenMDW-1.1, downloadable; hardware 4x H100 or 2x GB200; price no published rate; context window 1M tokens. The Qwen3.8-Max column reads: parameters 2.4 trillion total and 95B active; compute per token 95B active; weights proprietary, API only; hardware nothing to deploy; price $2 per million input and $6 per million output; context window 1M tokens. A footer notes the index and price figures come from Artificial Analysis and Alibaba's rate card including an 88 percent cached-input discount, and that the Nemotron figures are NVIDIA-reported. The OrcaRouter logo is composited in the bottom-right corner.

快取折扣值得特別說明,因為它是兩欄中最常被錯誤建模的數字。快取輸入享有 88% 的折扣,並不代表帳單便宜了 88%;它代表提示中重複的部分成本約為牌價的九分之一,而效益大小取決於每個請求中有多少內容與上一個請求真正完全相同。每次重送一大段靜態前置內容的管線能獲得極大效益。每次呼叫都送出全新文件的管線則幾乎毫無效益。

A screenshot of NVIDIA's own announcement page for the Nemotron 3.5 family, the vendor document behind every Nemotron figure in this article, showing the announcement header and the opening of the release description with the parameter counts and deployment guidance the piece cites.

價格路線,誠實經營

直覺反應是去算一個交叉點——token 數量要到多少,自架才會勝出?這樣的計算會得出一個數字,而這個數字通常都是錯的,因為它忽略了兩項真正居於主導地位的成本:讓自架推論堆疊保持最新的工程時間,以及較小模型在棘手案例上的機會成本。

更有用的做法是:把你實際的流量概況套用到 Qwen3.8-Max 公布的費率上,算出精確的每月金額,因為那一邊有價目表。接著再問:在你的標準下,12B 活躍參數模型能處理其中多大比例的流量,然後只就那個比例以 GPU 計算成本。在多數文件擷取管線中,答案是絕大多數流量都屬於機械性工作——發票、表單、圖表、重複版面——只有一小條尾端需要判斷。大宗流量正是自行託管勝出之處;尾端則是像 Qwen3.8-Max 這類前沿模型勝出之處。

這個分工正是我們自家路由層存在的目的,而相關事實相當明確,可以直接說清楚。 Qwen3.8-Max 已列在我們的目錄中,作為 qwen/qwen3.8-max/,以阿里巴巴的定價上架,加成 0%——供應商收多少,你就付多少,而且供應商降價當天就會反映,而不是等到下一個帳單週期。NVIDIA Nemotron 3.5 Super VL 不在我們的目錄中,也永遠不會以端點的形式出現,因為它是你自己託管的檢查點,而不是任何人能轉售給你的服務。介於兩者之間的是組合: 路由 DSL 讓單一呼叫可以分散出去,因此制式化的頁面可以交給任何你指定的廉價模型,而需要判斷的頁面則升級處理,而且自動容錯移轉會在原本要前往的上游服務品質下降時,將請求移到健康的上游。代管的那一半用一把金鑰,另一半用你自己的 GPU,再由一套政策決定哪個請求該去哪裡。

A screenshot of the OrcaRouter model page for Qwen3.8-Max, listed under the identifier qwen/qwen3.8-max and attributed to qwen, showing a release date of 19 September 2026, a 1M-token context window, input pricing of $2.00 and output pricing of $6.00 per million tokens with an 88 percent cached-input discount, and latency figures of 6.82 seconds p50 and 9.64 seconds p95 time to first token.

一個實際可行的架構,而非假設情境:同一條管線可以透過目錄,將單頁表單送往小型文字模型,把圖表密集的年度報告路由至視覺模型,並保留 Qwen3.8-Max 作為備援,用於少數擷取結果確實模稜兩可的文件。備援模型每百萬個輸出 token 收費 $6,未使用時則不收費;這遠比為了每月尖峰兩次的工作負載,去配置第四張 H100 要好得多。

從這週開始,誰應該做哪一項?

如果你的工作涉及受監管的資料——任何只要把一頁內容傳送給第三方就得先經過法律審查的類別——那麼決定早就替你做好了,那就是 Super VL,連硬體門檻等一切全都包含在內。如果你的工作是在一般隱私態勢下進行大量文件與螢幕理解,對大多數團隊來說,目前最便宜又正確的答案就是按用量計費的前沿模型,因為它現在就能用,而且價格已知。如果你介於兩者之間,而大多數真實管線正是落在這個位置,這兩者根本算不上競爭對手:用 Qwen3.8-Max 處理困難的長尾,用自行託管的 Super VL 處理大量工作,並由路由器按每個請求來決定。

會改變這個頁面的,是任何服務供應商為 Super VL 公佈的費率。當 Nemotron 檢查點出現在按用量計費的端點背後的那一刻,部署底線的反對意見就會消失,比較就變成價格對價格,而有趣的問題就從哪個模型轉移到哪個供應商。在那之前,這兩欄仍然在回答不同的問題——而對「哪個更好」的誠實答案是:有價格的模型和有授權的模型並不是同一類物件。