
Qwen4-Max 對比 Nemotron 3.5 Bolt 74B:這項比較少了一個數字
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百萬 tokens · 184 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百萬 tokens · 215 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百萬 tokens · 76 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百萬 tokens · 109 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 209 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百萬 tokens · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
把 Qwen4-Max 和 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 並列放在一起,你首先會注意到的是:比較網站上根本沒有可比較的內容。BenchLM 說得很直白——目前尚無共同的基準測試結果——接著便請你改看價格。原因是結構性的,而非暫時性的:Qwen4-Max 在 Artificial Analysis Intelligence Index v5.0.1 上得分 43,而 Nemotron 3.5 Bolt 74B-A9B 24GB 完全沒有 Intelligence Index 分數。不是低分。是 N/A,而且是在一個早在這兩款模型推出前就已開始運行模型的排行榜上,因為該模型沒有公開可用的 API,獨立測試框架無從呼叫。
那個唯一的缺項會重新組織這場比較的其他所有面向。你不能把一個能塞進 24 GB、擁有 740 億參數的檢查點,和一個擁有 2.4 兆參數的託管模型,靠把兩者的數字放進相鄰儲存格來排名,因為它們之中只有一個有數字。你能做的——也是彙整頁面沒做的——是把每家廠商各自提出的說法分開來看,註明是誰測量的,並釐清決策實際上取決於哪一欄。結果這與其說取決於能力,不如說取決於你買的是一個檔案,還是租用一項服務。
一個是檔案,另一個是儀表。
NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 於 2026 年 10 月 15 日推出,並以可下載權重的形式在 Hugging Face 上提供,採用允許商業使用的 OpenMDW-1.1 授權。它是混合式 Mamba-Transformer 專家混合模型:總參數 740 億,每個 token 啟用 90 億。名稱中的「24GB」正是整個設計的重點。NVIDIA 透過其稱為 Star Elastic 的路由導向搜尋框架壓縮 120B-A12B 母模型來打造它,將專家 top-K 從 22 降至 9,接著應用量化感知蒸餾,使專家層維持在 2.0625 位元。另附一個 11.3 億參數的推測解碼草稿模型,在貪婪解碼下平均接受長度為 4.68,取樣下為 4.25。建議執行環境為 Ampere、Hopper 或 Blackwell 上的 vLLM,張量平行大小為 1。
Qwen4-Max 是相反的建構,而且不僅因為規模。阿里巴巴第四代旗艦模型於 2026 年 11 月 16 日在新加坡正式全面推出,價格為每百萬輸入 token 1.50 美元、每百萬輸出 token 4.50 美元,具備 1,000,000 token 上下文視窗、原生圖片與影片輸入,以及三種可設定的推理等級。未發布任何 checkpoint。微調、模型部署與批次推論在 Model Studio 文件中均列為不支援。每個提供其服務的端點,服務的都是阿里巴巴的部署。
所以這兩個模型並不是在爭奪你架構中的同一個位置。一個是你執行的東西;一個是你呼叫的東西。任何不是從這一點出發的比較,都是在衡量錯誤的東西。
供應商表格將 Bolt 與另一個 Qwen 比較,而不是這個 Qwen。
NVIDIA 自家的基準測試表是雙方最完整記錄的一組數字,值得仔細閱讀,因為它沒有包含的內容同樣重要。其比較欄位是 BF16 的 Qwen3.6-35B-A3B、BF16 的 Gemma 4 26B-A4B-IT,以及 Nemotron 3.5 Lightning 30B-A3B。Qwen4-Max 不在表中。該表所測量的 Qwen 是往前兩代的 350 億參數開放權重模型,而原因一旦說明白就很明顯:比較集合是由記憶體佔用量定義的,而一個託管的 2.4 兆參數 API 沒有可供比較的佔用量。
這張表確實能確立的是——儘管所有資料都由廠商自行提報且未經重現——一個 24GB 檔案在代理式工作上,足以與規模大得多的本地選項競爭。而在 NVIDIA 所挑選的那些列上:
• BrowseComp — Nemotron 3.5 Bolt 74B 66.75,相較於 Qwen3.6-35B-A3B 的 48.74,以及 Gemma 4 26B-A4B 的 26.30
• Terminal-Bench 2.1 — 50.98,相較於 44.38 與 37.22
• WebArena 在視覺模式下 — 50.86,相較於 36.60 和 38.20
• GPQA Diamond — 86.43,相較於 83.40 與 79.61
• 不使用工具的 HLE — 25.30,相較於 19.56 與 17.42
• GDPVal-AA-V2 — 28.47,相較於 25.75 與 15.33
• MCP-Atlas — 52.20,相較於 51.20 與 48.4
• Tau3 Banking — 17.01,相較於 10.52 和 14.02

它落敗的那兩行值得特別點名,因為廠商表格很少納入它們。在 AA-Omniscience 準確度上,Gemma 4 26B-A4B 得分 22.17,Bolt 則為 16.90;在 AA-Omniscience 非幻覺上,Nemotron 3.5 Lightning 以 68.81 領先,Bolt 為 61.27。Bolt 已披露的最弱特性,是知道自己何時不知道。
註腳和資料列同樣重要。NVIDIA 將 Qwen3.6-35B-A3B 的 MCP-Atlas 記為 51.20,同時指出 Qwen 自己在同一項基準測試上回報 62.8,且是在 500 個公開任務上測得。兩個實驗室、同一項基準測試,差距達 11.5 分。這不是醜聞;這正是當中間沒有人替雙方跑測試框架時,廠商回報數字會呈現的樣子。而這正是 Intelligence Index 對 Qwen4-Max 所扮演、卻無法對 Bolt 扮演的角色。

獨立董事會對 Qwen4-Max 的說法——以及為何這仍無法解決任何問題
Qwen4-Max 的獨立評測紀錄不多,但確實存在。Artificial Analysis 在 Intelligence Index v5.0.1 上給它 43 分,並在該版本榜單的 96 個模型中排名第 51。它每項指數任務的運算成本為 3.27 美元,整輪執行共生成 1.27 億個輸出 token,而中位數為 6,510 萬個,藉此維持表現;每項任務耗時 31.3 分鐘,中位數為 12.4 分鐘。輸出速度為每秒 56 個 token;首個答案 token 的延遲為 146 秒。榜單上顯示該模型的上下文視窗為 984k,這是將思考模式的輸入上限 983,616 四捨五入後的數字,並非另一款模型。

把那些資料列視為部署概況,而不是最終評斷。一個每個任務要思考半小時、輸出的 token 數是中位數兩倍的模型,之所以慢,不是因為它被糟糕地服務;而是因為它每個任務做更多工作,並為這些工作向你收費。以每個任務計算,$3.27 是 Qwen4-Max 回答的真實成本,而這個數字應帶入任何與你自行託管模型的比較;在自行託管時,一個任務的邊際成本是電力和排隊時間。
現在試著把 Bolt 的 24GB 拿來和那個放在一起看。你有一張廠商表格說它在代理式瀏覽上勝過 35B 的開放權重 Qwen,你又有一個獨立評測榜單說,它實際上被拿來比較的託管版 Qwen 得分 43、每項任務要價 3.27 美元。這兩個事實彼此對不上。沒有人把 Nemotron 3.5 Bolt 74B 送進 Intelligence Index 跑過,而在有人這麼做之前,任何把這兩個模型擺在能力軸上的圖表,都只是在一個實測點和一個假設點之間畫線。
在比較可判定的情況下:記憶體、延遲與帳單
這三行可以誠實地比較,因為雙方都會公布它們,而且兩者都不需要第三方。
• 記憶體 — Nemotron 3.5 Bolt 74B-A9B 24GB 在 2.0625 位元專家量化下需要 24 GB 的本機記憶體;Qwen4-Max 則完全不需要,因為你永遠不會持有權重。取捨在於,託管模型的記憶體上限會成為上下文上限:NVIDIA 檢查點為 262,144 個 token,Qwen4-Max 為 1,000,000 個,且在思考模式下輸入上限為 983,616 個 token,推理與回答之間共用 262,144 個。
• 速度 — NVIDIA 宣稱解碼速度至少每秒 80 個 token,並表示搭配草稿模型可達 84 個;Artificial Analysis 測得 {{1}}Qwen4-Max{{/1}} 為每秒 56 個 token,首個回答 token 需 146 秒。本地模型每個 token 更快,且更早開始回答。託管模型可能仍更快完成任務,因為它進行的思考量不同。
• 價格 — 在獨立測試框架上,一個 Qwen4-Max 任務要價 $3.27,或按計價表為每百萬個 token $1.50 與 $4.50。Nemotron 3.5 Bolt 74B 完全沒有公開的按量計價價格,因為沒有任何供應商販售它。它的成本就是 GPU 對你的花費:一張已經在工作站裡的 24GB 顯卡,分攤到你每月透過它執行多少任務上。
最後那一列才是決策真正所在,也是為什麼「哪個更聰明」這種框架屢屢失效的原因。如果你的工作負載是每月一百萬次短促的代理輪次,本地檢查點在單位經濟效益上勝出的幅度,是任何基準測試列都無法超越的,而 262k 上下文則是你設計時要繞開的限制。如果你的工作負載是幾千個長程任務,輸入包含影片,還附帶一份 900,000 token 的文件,那麼沒有任何 24GB 檢查點能回答這個問題,而 Qwen4-Max 每任務 $3.27 是最便宜的可用答案,而不是昂貴的答案。
為什麼誠實的答案是「兩者皆是,只是用途不同」
誘人的結論是直接宣布贏家,而 SERP 上充斥著正是這麼做、卻沒有任何共用資料的頁面。更有用的結論是:這兩個模型正從相反方向匯聚到同一個架構理念上。Qwen4-Max 是一種稀疏混合專家模型,每個 token 會啟動其 2.4 兆參數中的 710 億個,並主打 token 效率——廠商自己尚未被重現的說法是,它表現優於 Qwen3.8-Max,最多可少用約 50% 的 token,每項任務平均成本從 4.43 美元降至 1.67 美元。Nemotron 3.5 Bolt 74B 是一種稀疏混合專家模型,會啟動其 740 億參數中的 90 億個,並主打壓縮,以 2 位元專家權重和一個小型推測式草稿器換得 24GB 的佔用空間。兩者都在回答同一個問題:在品質崩壞之前,每個 token 究竟能只動用模型的多小一部分?
這種框架有一個實際後果。能從兩者中獲得最大效益的團隊,是那些衡量每項完成任務的 token 數、而非每秒 token 數的團隊。在本機端,這意味著要觀察 drafter 的接受長度,因為投機解碼器在貪婪解碼下每步接受 4.68 個 token、在取樣下接受 4.25 個 token,而這正是你的輸送量來源,且取樣設定會改變這個數字。在託管端,這意味著要記錄思考加答案的合計總量,對照 262,144 token 上限,因為推理強度預設為 high,而要求 medium 的 OpenAI 形式用戶端會默默收到 high。這兩種測量都不需要基準測試,而且兩者都比只做一種更有資訊價值。
什麼能讓這件事定下來?
缺少的數字,是一次 harness 執行。若把 Nemotron 3.5 Bolt 74B-A9B 24GB 以其出貨量化版本送進 Intelligence Index v5.0.1 測試,這兩個模型就會在雙方唯一都能被衡量的軸上變得可比較,而每個目前寫著「尚無共同基準測試結果」的彙整頁面,也就會有東西可印。NVIDIA 已發布 checkpoint,執行環境是 vLLM,工具鏈也已存在。在那之前,有用的做法是別再把它當成一場對決,而是開始把它視為自建與採購的決策:一邊是有文件記錄的成本,另一邊是有文件記錄的資源佔用。
在我們自己的帳面上,關於可用性要說得精確:OrcaRouter 並不路由這兩款模型。Nemotron 3.5 Bolt 74B 是供你自行提供服務的下載項目,而 Qwen4-Max 則是在目前免費期間向阿里巴巴或透過合作夥伴平台租用。我們目錄中的 Qwen 系列成員是 Qwen3.8-Max,每百萬 token 輸入 $2.00、輸出 $6.00,並具備 1M token 的上下文;如果你想 以同一把金鑰橫跨混合技術堆疊,並享有遵循供應商自身價目表、而非對其加價轉售的價格,那它就是自然的備援選擇。對於像這樣的決策——兩個候選方案分別位於自建與購買光譜的兩端——路由器提供給你的有用之處,不是替你選出贏家,而是讓你在查明本地通道做不到什麼的同時,讓託管通道保持開放。
如果你這個月就要做選擇,就根據你無法改變的那項限制來選。上下文、模態,以及按任務計費,是 Qwen4-Max 必須滿足的限制。記憶體、離線運作,以及每次請求零邊際成本,則是 Nemotron 3.5 Bolt 74B 必須滿足的限制。兩者之間的基準測試差距確實存在,但這不是會決定你架構的差距——而且無論做多少並排比較表,都無法在有人實際執行測試框架之前彌補它。
本文中的比較1
根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新
