一張生成的標題卡,標題為「Qwen4-Max vs Nemotron 3.5 Bolt 74B」,橫幅寫著「不存在共通的獨立基準測試」;左側卡片將 Qwen4-Max 列為託管 API,具備 1,000,000 個 token 的上下文,每百萬 token 輸入 $1.50、輸出 $4.50,智慧指數為 43,權重未公開;右側卡片則將 Nemotron 3.5 Bolt 74B 列為可下載的檢查點,具備 262,144 個 token 的上下文,以 2.06 位元量化下佔用 24GB,智慧指數為 N/A,授權為 OpenMDW-1.1。
Guides & Insights

Qwen4-Max 對比 Nemotron 3.5 Bolt 74B:這項比較少了一個數字

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

把 Qwen4-Max 和 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 並列放在一起,你首先會注意到的是:比較網站上根本沒有可比較的內容。BenchLM 說得很直白——目前尚無共同的基準測試結果——接著便請你改看價格。原因是結構性的,而非暫時性的:Qwen4-Max 在 Artificial Analysis Intelligence Index v5.0.1 上得分 43,而 Nemotron 3.5 Bolt 74B-A9B 24GB 完全沒有 Intelligence Index 分數。不是低分。是 N/A,而且是在一個早在這兩款模型推出前就已開始運行模型的排行榜上,因為該模型沒有公開可用的 API,獨立測試框架無從呼叫。

那個唯一的缺項會重新組織這場比較的其他所有面向。你不能把一個能塞進 24 GB、擁有 740 億參數的檢查點,和一個擁有 2.4 兆參數的託管模型,靠把兩者的數字放進相鄰儲存格來排名,因為它們之中只有一個有數字。你能做的——也是彙整頁面沒做的——是把每家廠商各自提出的說法分開來看,註明是誰測量的,並釐清決策實際上取決於哪一欄。結果這與其說取決於能力,不如說取決於你買的是一個檔案,還是租用一項服務。

一個是檔案,另一個是儀表。

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 於 2026 年 10 月 15 日推出,並以可下載權重的形式在 Hugging Face 上提供,採用允許商業使用的 OpenMDW-1.1 授權。它是混合式 Mamba-Transformer 專家混合模型:總參數 740 億,每個 token 啟用 90 億。名稱中的「24GB」正是整個設計的重點。NVIDIA 透過其稱為 Star Elastic 的路由導向搜尋框架壓縮 120B-A12B 母模型來打造它,將專家 top-K 從 22 降至 9,接著應用量化感知蒸餾,使專家層維持在 2.0625 位元。另附一個 11.3 億參數的推測解碼草稿模型,在貪婪解碼下平均接受長度為 4.68,取樣下為 4.25。建議執行環境為 Ampere、Hopper 或 Blackwell 上的 vLLM,張量平行大小為 1。

Qwen4-Max 是相反的建構,而且不僅因為規模。阿里巴巴第四代旗艦模型於 2026 年 11 月 16 日在新加坡正式全面推出,價格為每百萬輸入 token 1.50 美元、每百萬輸出 token 4.50 美元,具備 1,000,000 token 上下文視窗、原生圖片與影片輸入,以及三種可設定的推理等級。未發布任何 checkpoint。微調、模型部署與批次推論在 Model Studio 文件中均列為不支援。每個提供其服務的端點,服務的都是阿里巴巴的部署。

所以這兩個模型並不是在爭奪你架構中的同一個位置。一個是你執行的東西;一個是你呼叫的東西。任何不是從這一點出發的比較,都是在衡量錯誤的東西。

供應商表格將 Bolt 與另一個 Qwen 比較,而不是這個 Qwen。

NVIDIA 自家的基準測試表是雙方最完整記錄的一組數字,值得仔細閱讀,因為它沒有包含的內容同樣重要。其比較欄位是 BF16 的 Qwen3.6-35B-A3B、BF16 的 Gemma 4 26B-A4B-IT,以及 Nemotron 3.5 Lightning 30B-A3B。Qwen4-Max 不在表中。該表所測量的 Qwen 是往前兩代的 350 億參數開放權重模型,而原因一旦說明白就很明顯:比較集合是由記憶體佔用量定義的,而一個託管的 2.4 兆參數 API 沒有可供比較的佔用量。

這張表確實能確立的是——儘管所有資料都由廠商自行提報且未經重現——一個 24GB 檔案在代理式工作上,足以與規模大得多的本地選項競爭。而在 NVIDIA 所挑選的那些列上:

• BrowseComp — Nemotron 3.5 Bolt 74B 66.75,相較於 Qwen3.6-35B-A3B 的 48.74,以及 Gemma 4 26B-A4B 的 26.30

• Terminal-Bench 2.1 — 50.98,相較於 44.38 與 37.22

• WebArena 在視覺模式下 — 50.86,相較於 36.60 和 38.20

• GPQA Diamond — 86.43,相較於 83.40 與 79.61

• 不使用工具的 HLE — 25.30,相較於 19.56 與 17.42

• GDPVal-AA-V2 — 28.47,相較於 25.75 與 15.33

• MCP-Atlas — 52.20,相較於 51.20 與 48.4

• Tau3 Banking — 17.01,相較於 10.52 和 14.02

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB captured 19 November 2026, showing the 15 October 2026 release date, the 74B total and 9B active parameter configuration, a context length of up to 256K tokens, the OpenMDW-1.1 licence, and the vendor benchmark table comparing Bolt against Qwen3.6-35B-A3B, Gemma 4 26B-A4B-IT and Nemotron 3.5 Lightning 30B-A3B.

它落敗的那兩行值得特別點名,因為廠商表格很少納入它們。在 AA-Omniscience 準確度上,Gemma 4 26B-A4B 得分 22.17,Bolt 則為 16.90;在 AA-Omniscience 非幻覺上,Nemotron 3.5 Lightning 以 68.81 領先,Bolt 為 61.27。Bolt 已披露的最弱特性,是知道自己何時不知道。

註腳和資料列同樣重要。NVIDIA 將 Qwen3.6-35B-A3B 的 MCP-Atlas 記為 51.20,同時指出 Qwen 自己在同一項基準測試上回報 62.8,且是在 500 個公開任務上測得。兩個實驗室、同一項基準測試,差距達 11.5 分。這不是醜聞;這正是當中間沒有人替雙方跑測試框架時,廠商回報數字會呈現的樣子。而這正是 Intelligence Index 對 Qwen4-Max 所扮演、卻無法對 Bolt 扮演的角色。

Screenshot of the Artificial Analysis page for Nemotron 3.5 Bolt 74B-A9B captured 19 November 2026, showing the Intelligence Index, time per task, cost per task and verbosity panels reading N/A, 'No publicly available API' across the provider charts, and technical specifications listing 74B total parameters, 9B active, a 262k context window and the OpenMDW-1.1 licence.

獨立董事會對 Qwen4-Max 的說法——以及為何這仍無法解決任何問題

Qwen4-Max 的獨立評測紀錄不多,但確實存在。Artificial Analysis 在 Intelligence Index v5.0.1 上給它 43 分,並在該版本榜單的 96 個模型中排名第 51。它每項指數任務的運算成本為 3.27 美元,整輪執行共生成 1.27 億個輸出 token,而中位數為 6,510 萬個,藉此維持表現;每項任務耗時 31.3 分鐘,中位數為 12.4 分鐘。輸出速度為每秒 56 個 token;首個答案 token 的延遲為 146 秒。榜單上顯示該模型的上下文視窗為 984k,這是將思考模式的輸入上限 983,616 四捨五入後的數字,並非另一款模型。

Screenshot of the Artificial Analysis page for Qwen4 Max captured 19 November 2026, showing an Intelligence Index v5.0.1 score of 43 at rank 51 of 96, time to first answer token of 146.14 seconds, output speed of 56 tokens per second, 31.3 minutes per index task, $3.27 cost per task, 127M output tokens from the index run, and $1.50/$4.50 per million token pricing with a 984k context window.

把那些資料列視為部署概況,而不是最終評斷。一個每個任務要思考半小時、輸出的 token 數是中位數兩倍的模型,之所以慢,不是因為它被糟糕地服務;而是因為它每個任務做更多工作,並為這些工作向你收費。以每個任務計算,$3.27 是 Qwen4-Max 回答的真實成本,而這個數字應帶入任何與你自行託管模型的比較;在自行託管時,一個任務的邊際成本是電力和排隊時間。

現在試著把 Bolt 的 24GB 拿來和那個放在一起看。你有一張廠商表格說它在代理式瀏覽上勝過 35B 的開放權重 Qwen,你又有一個獨立評測榜單說,它實際上被拿來比較的託管版 Qwen 得分 43、每項任務要價 3.27 美元。這兩個事實彼此對不上。沒有人把 Nemotron 3.5 Bolt 74B 送進 Intelligence Index 跑過,而在有人這麼做之前,任何把這兩個模型擺在能力軸上的圖表,都只是在一個實測點和一個假設點之間畫線。

在比較可判定的情況下:記憶體、延遲與帳單

這三行可以誠實地比較,因為雙方都會公布它們,而且兩者都不需要第三方。

• 記憶體 — Nemotron 3.5 Bolt 74B-A9B 24GB 在 2.0625 位元專家量化下需要 24 GB 的本機記憶體;Qwen4-Max 則完全不需要,因為你永遠不會持有權重。取捨在於,託管模型的記憶體上限會成為上下文上限:NVIDIA 檢查點為 262,144 個 token,Qwen4-Max 為 1,000,000 個,且在思考模式下輸入上限為 983,616 個 token,推理與回答之間共用 262,144 個。

• 速度 — NVIDIA 宣稱解碼速度至少每秒 80 個 token,並表示搭配草稿模型可達 84 個;Artificial Analysis 測得 {{1}}Qwen4-Max{{/1}} 為每秒 56 個 token,首個回答 token 需 146 秒。本地模型每個 token 更快,且更早開始回答。託管模型可能仍更快完成任務,因為它進行的思考量不同。

• 價格 — 在獨立測試框架上,一個 Qwen4-Max 任務要價 $3.27,或按計價表為每百萬個 token $1.50 與 $4.50。Nemotron 3.5 Bolt 74B 完全沒有公開的按量計價價格,因為沒有任何供應商販售它。它的成本就是 GPU 對你的花費:一張已經在工作站裡的 24GB 顯卡,分攤到你每月透過它執行多少任務上。

最後那一列才是決策真正所在,也是為什麼「哪個更聰明」這種框架屢屢失效的原因。如果你的工作負載是每月一百萬次短促的代理輪次,本地檢查點在單位經濟效益上勝出的幅度,是任何基準測試列都無法超越的,而 262k 上下文則是你設計時要繞開的限制。如果你的工作負載是幾千個長程任務,輸入包含影片,還附帶一份 900,000 token 的文件,那麼沒有任何 24GB 檢查點能回答這個問題,而 Qwen4-Max 每任務 $3.27 是最便宜的可用答案,而不是昂貴的答案。

為什麼誠實的答案是「兩者皆是,只是用途不同」

誘人的結論是直接宣布贏家,而 SERP 上充斥著正是這麼做、卻沒有任何共用資料的頁面。更有用的結論是:這兩個模型正從相反方向匯聚到同一個架構理念上。Qwen4-Max 是一種稀疏混合專家模型,每個 token 會啟動其 2.4 兆參數中的 710 億個,並主打 token 效率——廠商自己尚未被重現的說法是,它表現優於 Qwen3.8-Max,最多可少用約 50% 的 token,每項任務平均成本從 4.43 美元降至 1.67 美元。Nemotron 3.5 Bolt 74B 是一種稀疏混合專家模型,會啟動其 740 億參數中的 90 億個,並主打壓縮,以 2 位元專家權重和一個小型推測式草稿器換得 24GB 的佔用空間。兩者都在回答同一個問題:在品質崩壞之前,每個 token 究竟能只動用模型的多小一部分?

這種框架有一個實際後果。能從兩者中獲得最大效益的團隊,是那些衡量每項完成任務的 token 數、而非每秒 token 數的團隊。在本機端,這意味著要觀察 drafter 的接受長度,因為投機解碼器在貪婪解碼下每步接受 4.68 個 token、在取樣下接受 4.25 個 token,而這正是你的輸送量來源,且取樣設定會改變這個數字。在託管端,這意味著要記錄思考加答案的合計總量,對照 262,144 token 上限,因為推理強度預設為 high,而要求 medium 的 OpenAI 形式用戶端會默默收到 high。這兩種測量都不需要基準測試,而且兩者都比只做一種更有資訊價值。

什麼能讓這件事定下來?

缺少的數字,是一次 harness 執行。若把 Nemotron 3.5 Bolt 74B-A9B 24GB 以其出貨量化版本送進 Intelligence Index v5.0.1 測試,這兩個模型就會在雙方唯一都能被衡量的軸上變得可比較,而每個目前寫著「尚無共同基準測試結果」的彙整頁面,也就會有東西可印。NVIDIA 已發布 checkpoint,執行環境是 vLLM,工具鏈也已存在。在那之前,有用的做法是別再把它當成一場對決,而是開始把它視為自建與採購的決策:一邊是有文件記錄的成本,另一邊是有文件記錄的資源佔用。

在我們自己的帳面上,關於可用性要說得精確:OrcaRouter 並不路由這兩款模型。Nemotron 3.5 Bolt 74B 是供你自行提供服務的下載項目,而 Qwen4-Max 則是在目前免費期間向阿里巴巴或透過合作夥伴平台租用。我們目錄中的 Qwen 系列成員是 Qwen3.8-Max,每百萬 token 輸入 $2.00、輸出 $6.00,並具備 1M token 的上下文;如果你想 以同一把金鑰橫跨混合技術堆疊,並享有遵循供應商自身價目表、而非對其加價轉售的價格,那它就是自然的備援選擇。對於像這樣的決策——兩個候選方案分別位於自建與購買光譜的兩端——路由器提供給你的有用之處,不是替你選出贏家,而是讓你在查明本地通道做不到什麼的同時,讓託管通道保持開放。

如果你這個月就要做選擇,就根據你無法改變的那項限制來選。上下文、模態,以及按任務計費,是 Qwen4-Max 必須滿足的限制。記憶體、離線運作,以及每次請求零邊際成本,則是 Nemotron 3.5 Bolt 74B 必須滿足的限制。兩者之間的基準測試差距確實存在,但這不是會決定你架構的差距——而且無論做多少並排比較表,都無法在有人實際執行測試框架之前彌補它。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新