一張生成的標題卡,寫著 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 對上 Qwen 3.8 Max,兩側面板皆標示輸入模態為影片,上下文視窗分別為 262,144 個詞元對比 1,000,000 個詞元,計量價格為無對比每百萬輸入詞元 2 美元與每百萬輸出詞元 6 美元,以及 Artificial Analysis Intelligence Index 21,在其足跡類別中 67 個模型裡排名第四,對比 45.4,在 145 個模型中排名第十五。頁腳註明這些指數數字為獨立測量,而 NVIDIA 對 Bolt 的吞吐量聲明屬廠商自行報告且未經重現。OrcaRouter 標誌位於右下角。
Guides & Insights

Nemotron 3.5 Bolt 對決 Qwen 3.8 Max:這兩款模型都能觀看影片

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

很少有模型配對是這樣:令人意外的部分在於它們共同具備的能力。兩者NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB與Qwen 3.8 Max都接受影片作為輸入,也都回傳文字。Qwen 3.8 Max 由阿里巴巴於 2026 年 8 月 3 日發布,是一款代管的多模態模型,具備 1,000,000 個 token 的上下文,透過五個地區的 OpenAI 相容、Anthropic 相容及原生 DashScope 介面提供服務,定價為每百萬輸入 token 2.00 美元、每百萬輸出 token 6.00 美元,快取讀取則為 0.25 美元。Nemotron 3.5 Bolt 由 NVIDIA 於 2026 年 10 月 15 日發布,是內含 C-RADIO v4-H 視覺編碼器的 24GB 開放權重檔案,具備 262,144 個 token 的視窗,而且完全不收費。

兩個模型都能接收螢幕錄影,而它們之間唯一的差別,只在於它們在哪裡執行,以及那要付出什麼成本。這比大多數正面對決都還更純粹,而且一旦你不再問哪一個更聰明,很快就能得出結論。

兩個多模態堆疊,一個記憶體包絡

Bolt 的多模態能力是繼承而來的,而非專為它打造。NVIDIA 透過一套它稱為 Star Elastic 的路由器引導搜尋,將其 120B-A12B 的 Nemotron 3.5 Super VL 模型壓縮到 74B-A9B,接著再以 IQ2_XXS 格式、透過量化感知蒸餾,把結果推至每個專家權重 2.0625 位元。視覺塔——一個 C-RADIO v4-H 編碼器——也隨著壓縮一併保留,而推理模式切換開關與 Super VL 用戶端所暴露的是同一個:聊天模板中的 enable_thinking 旗標。總參數量 74B,每個詞元啟用 9B,主幹是廠商稱為 LatentMoE 的 Mamba-2 與 Transformer 混合架構,授權條款為 OpenMDW-1.1,可用於商業及非商業用途。

Qwen 3.8 Max 是另一種產物。它是阿里巴巴能力最高的層級,原生多模態,且僅以端點形式存在。沒有可下載的檢查點,沒有可在工作站上執行的量化版本,也沒有任何版本的邊際成本只是電費。它取而代之的是觸及範圍:三種傳輸格式,讓既有的 Anthropic SDK 或 DashScope 整合無須改寫即可運作;以及橫跨亞洲、歐洲與北美的五個服務區域,使延遲問題既是工程問題,也同樣是地理問題。

實際後果是,Bolt 的多模態行為受限於同樣那 24GB 記憶體,而這 24GB 還得容納 KV 快取、對話歷史與工具結果。Qwen 3.8 Max 的則受限於端點所配置的資源,而那不是你的問題。

A screenshot of the OrcaRouter model page for Qwen3.8 Max, showing the identifier qwen/qwen3.8-max, a release date of 2026-08-03, capability chips for Vision, Tools, JSON and Reasoning, a 1M-token context window with text, image and video input and text output, published rates of .00 per million input tokens and .00 per million output tokens, a p50 time to first token of 3.22 seconds and a p95 of 10.00 seconds, and 41.3 million tokens routed in the last seven days.

您支付多少,以及支付給誰

Qwen 3.8 Max 是按用量計費的,而以它的定位來說,費率偏低。一個 20,000 個 token 的提示搭配 3,000 個 token 的回答,輸入費用為 $0.04、輸出為 $0.18,每次呼叫約 $0.22——而每百萬個 token $0.25 的快取讀取費用,意味著穩定的系統提示或重複出現的文件在第二次處理時幾乎免費。它在我們目錄上的首個 token 時間 p50 為 3.22 秒、p95 為 10.00 秒,且在過去七天內承載了 4,130 萬個 token 的繞送流量。

Nemotron 3.5 Bolt 沒有價目表,因為根本沒有東西可計量。沒有託管端點、沒有供應商 API,也沒有第三方平台提供服務可供我們指引你前往。Artificial Analysis 之所以將其速度和每項 Intelligence Index 任務的成本都列為 N/A,正是這個原因。如果你自行運行它,成本就是一張 GPU、一筆耗電量和一段攤銷期,而下一個百萬詞元的邊際價格是零。對於一項每天讀取同一語料庫的夜間作業而言,那不是折扣——而是一套不同的會計模式,而損益兩平點完全取決於你多久運行它一次。

視窗,以及使用它的能力

情境是這兩者在紙上看似最接近、在實務上卻最快分道揚鑣的軸線。

• 宣告的視窗 — Qwen 3.8 Max 為 1,000,000 個詞元,對上 Nemotron 3.5 Bolt 的 262,144 個。大約是四比一,而這個比例決定了整份程式碼庫或整份封存檔任務是否有可能用單一請求完成。

• 視窗內的召回 — Artificial Analysis 記錄 Qwen 3.8 Max 的長上下文召回分數為 80.3。Bolt 沒有對應的獨立數字,而且它的視窗本來就比較小,這使得這是一項已量測能力與未量測能力之間的比較。

• 還有什麼同樣佔用這個空間——Bolt 的 262,144 個 token 與權重、視訊畫面和 KV 快取一同存在於相同的 24GB 中。一段長的影片提示詞與一段長的對話會競爭同一塊記憶體。Qwen 3.8 Max 的視窗由營運者配置,因此限制在於價格,而非硬體。

• 推理控制 — Qwen 3.8 Max 提供了一個 enable_thinking 開關,或在 Responses API 上的 reasoning.effort。Bolt 的對應功能是同一系列旗標中的一個聊天範本開關,繼承自 Super VL 客戶端。兩者都不罕見;兩者都能讓你在例行呼叫時不再為深思熟慮付出代價。

以測量對照未測量

Artificial Analysis 在其 Intelligence Index 上給 Qwen 3.8 Max 打了 45.4 分,在 145 個受測模型中排名第十五——位居前百分之十之內,但並非頂尖。其輔助列在代理式工作負載需要之處表現強勁:AA Coding Index 為 76.2,在 138 個中排名第九;Terminal-Bench 2.1 為 88.8;GPQA Diamond 為 92.8。其相對弱點在於 80.3 的長上下文召回率,對於百萬 token 模型而言,這算得上體面,而非出類拔萃。

Bolt 的數字涵蓋範圍較窄。它在同一項指標上得分 21,在依規模篩選的同級類別中於 67 個模型裡排名第四,而該類別的中位數為 8,Artificial Analysis 也形容它是同尺寸中領先的開放權重模型之一。其實測速度與成本則從缺。其餘一切——Terminal-Bench 2.1 分數 50.98、GPQA Diamond 86.43、BrowseComp 66.75、WebArena 視覺 50.86、SciCode 41.02——都來自 NVIDIA 自家的模型卡,而在那裡,每一個對照基準都是另一個體積只有它三分之一的模型。這些列並非不誠實;它們回答的是關於效率的問題,而非關於前沿能力的問題,把它們當成與代管旗艦模型的較量來解讀,是誤讀了這份文件。

速度差距同樣值得同等重視。Artificial Analysis 無法測量 Bolt 的輸送量,因為根本沒有東西可供呼叫。NVIDIA 公布的設計目標是解碼速度至少達到每秒 80 個 token,在 RTX Spark 上以 AIPerf SPEED-Bench 測得 84,以及在配備 128GB 的 Surface Laptop Ultra 上執行 llama.cpp 達到 83.99,而這些全都未經重現。Qwen 3.8 Max 首個 token 耗時 3.22 秒則是經過實測且公開的數據。請以實測數字作為規劃依據,並將另一者視為期望目標。

A generated two-column scoreboard titled Nemotron 3.5 Bolt 74B-A9B 24GB vs Qwen 3.8 Max, the left column listing Intelligence Index 21 at fourth of 67 in its class, 262,144-token context, text image and video input, no price, no independent latency figure and deployment on your own hardware in 24GB, and the right column listing Intelligence Index 45.4 at fifteenth of 145 models, a 1,000,000-token context, text image and video input, 2 dollars in and 6 dollars out per million tokens, a 3.22 second p50 time to first token and deployment across five served regions. A footer distinguishes the independently measured rows from the vendor-reported ones. The OrcaRouter logo sits bottom-right.

路由問題,在這裡並不對稱

Qwen 3.8 Max 已收錄於我們的目錄,型號為 qwen/qwen3.8-max,依阿里巴巴的供應商定價路由,加價 0% — 每百萬個 token 分別為 $2.00 與 $6.00,我們頁面上的數字與供應商網站上的相同,這表示供應商端的費率變更當天就能送達我們的使用者,而不必等到合約續約。它與其他 200 多個模型共用同一把金鑰,當某個上游供應商效能下降時會自動容錯切換,並提供路由 DSL,可將多個模型組合成單一請求。

Nemotron 3.5 Bolt 不在我們的目錄中,我們也不提供它。沒有 Bolt 端點,沒有可用來指向請求的識別碼,而本文沒有任何內容構成代管 NVIDIA 檢查點的提議。這裡路由建議的真實樣貌是分流,而非二選一:託管的多模態模型負責長視窗請求、超出 24GB 共享記憶體所能容納的影片語料庫,以及任何需要能從任何地方呼叫的項目;本機檔案則負責高頻率的處理作業,這類情境下資料不應離開建築物,而且量體會讓按 token 計費變得吃不消。如果那些昂貴的呼叫正是後果重大的呼叫,模型融合是值得了解的一種變體——由一組模型共同回答同一個提示,然後你取其共識,這是一種便宜的方式,能為難以輕易扭轉的決定換取信心。

A screenshot of the Artificial Analysis model page for Nemotron 3.5 Bolt 74B-A9B, showing the NVIDIA attribution, a released-October-2026 label, an Intelligence Index of 21 with a rank of fourth of 67, speed and cost both marked N/A, a verbosity rank of eleventh of 13 at 230 million output tokens, and technical specifications listing reasoning enabled, text and image input, text output, a 262K context window, 74B total parameters and 9B active parameters.

這一個如何解決

兩者重疊之處在於影片,而這正是這兩個模型之所以值得比較的根本原因——在這個模型規模下,大多數本地模型根本無法看見,而大多數託管模型若沒有經過會遺失你想讓它看的內容的影格擷取步驟,就無法直接接收螢幕錄影。

在那重疊之外,它們在每個軸線上都分歧。Qwen 3.8 Max 贏得寬廣的視窗、實測的延遲、更豐富的輸入集,以及以大幅差距取勝的獨立評分智慧。Nemotron 3.5 Bolt 則贏得唯一一個沒有任何託管模型能競爭的軸線:它在你資料已經所在的地方運行,無論有沒有網路,邊際成本為零。

這個決定通常不是一種偏好選擇。如果影片從未離開這棟建築,託管選項就從未可用,比較也就收斂為單一候選方案。如果語料庫是一百萬個詞元的文字,本地選項也基於反向的相同理由而從未可用。在真正接近的情況——資料量不大、資料可合法傳輸、工作大多是短小的工具呼叫,偶爾才有長時間的讀取——決定勝負的關鍵是這項比較中唯一缺失的數字:這個 24GB 檢查點在你的硬體上實際跑起來有多快,而這一點迄今還沒有任何 NVIDIA 以外的人測量過。