Nemotron 3.5 Super 對比 GPT-6 Astra：掃描一頁在兩者上各需多少成本

OpenAI GPT-6 Astra以 token 為單位對掃描文件計費。NVIDIA Nemotron 3.5 Super則以 GPU 秒數計費。這一句話就道盡了這篇比較的大部分內容，而這句話並不是任何一家廠商會放上標題的那一句。這款 NVIDIA 模型——總參數 1,200 億、每個 token 啟用 120 億，在混合 Mamba-2 與 Transformer 的專家混合架構上搭載 C-RADIO 視覺編碼器，由 NVIDIA 於 2026 年 10 月 15 日以 NVIDIA Nemotron 3.5 Super VL 之名發表，並在 Ollama 上以 code>nemotron-3.5-super/code> 的形式推出——問世之時，它的權重早已在 Hugging Face 上存在三天，於 10 月 12 日上傳。Astra 是 OpenAI 的旗艦產品：1,050,000 個 token 的上下文、128,000 個 token 的最大輸出、支援文字、圖像與檔案輸入、常駐推理，定價為每百萬輸入 token 10 美元、每百萬輸出 token 50 美元。

那兩個價格點在輸入上相差十倍、在輸出上相差二十五倍，這使得那個有趣的問題格外尖銳。在什麼用量下，固定成本的開放檢查點會在文件工作上勝過 $10/$50 的計量收費——而當文件是一頁像素而非一頁文字時，答案會改變嗎？

他們不是在爭取同一個請求。

首先必須弄清楚的是，就實測能力而言，這兩個模型並不相近，而兩家廠商也都沒有提出相反的主張。

• 第三方指數— Astra 在為這些模型評分的面板上約為 54.7，Coding Index 為 76.9，Agentic Index 為 51.6，全部記錄在 Astra 自己的目錄條目中 · NVIDIA 檢查點約為 26。這是大約二十八分的差距，而兩家供應商都未對其進行測量。

• 上下文 — Astra 為 1,050,000 個 token，輸出上限為 128,000 個 token；NVIDIA 檢查點則為 1,000,000 個，且完全未公布輸出上限，而該卡片本身也提醒，記憶體與執行階段設定會決定實際可用的數值。

• 推理介面 — Astra 一律常時啟用推理，投入程度可從低調整到最高，並透過 Responses API 回傳完整推理軌跡，同時支援結構化輸出、種子，以及以工具形式提供的網頁搜尋 · NVIDIA 的檢查點則具備開／關思考模式，可透過 chat template 切換，並有公開的基準測試表，但完全沒有提供任何形式的託管介面。

• 輸入模態 — Astra 支援文字、圖像與檔案 · NVIDIA 檢查點支援文字、圖像與影片，每個已發布的標籤皆附帶 1.6 GiB 視覺投影器，因此圖像路徑始終存在。

• 價格 — 每百萬個 token 輸入 $10、輸出 $50，並在提示超過 272,000 個 token 時提供長上下文層級 · 無價格，因為該模型沒有端點。

• 你會得到什麼 — 一組 API key 與一份 trace · 四張 H100 或兩張 GB200 的 BF16 算力，或用於 82.3 GiB 預設 4-bit tag 的一張 96 GB 顯示卡，採用 OpenMDW-1.1 授權，允許商業使用。

讀完那份清單，結論顯而易見：若這項工作需要前沿推理，Astra 就是首選模型，比較到此結束。而這一頁之所以值得一讀，在於工作不需要前沿推理的情況，因為這正是擁有視覺編碼器的 1200 億參數檢查點開始具備經濟效益之處——而它在真實文件處理流程中所佔的比例，遠比任何人願意承認的都要大。

頁面成本計算，用真實數字來算

舉個具體的工作例子：一批掃描發票的語料庫，每天 200 頁，每頁以高到足以讀取手寫參考編號的解析度算繪。在編碼器處理完後，每頁算 1,500 個影像 token，再加上 300 個 token 的提示詞和 150 個 token 的答案。也就是每頁大約輸入 1,950 個 token、輸出 150 個 token，或者說整個語料庫每天有 390,000 個輸入 token 和 30,000 個輸出 token。

以 Astra 公布的價格計算，那是 3.90 美元的輸入與 1.50 美元的輸出——每天約 5.40 美元，或每月約 160 美元，而這項工作單一 GPU 一個晚上就能完成。把解析度調高、加入一頁會觸發超過 272,000 個提示 token 的長上下文級距的頁面，或者因為第一次跑錯了而把語料庫跑兩遍，這個數字只會往同一個方向移動。這就是問題的樣貌：在 10 美元與 50 美元的價位上，逐頁的工作流程就有逐頁的帳單，而帳單會隨著正好持續成長的那個東西——頁數——等比例增加。

在 NVIDIA 檢查點上，同樣的工作成本是 230,000 個 token 所消耗的 GPU 小時的某個比例；以每天 200 頁來說，這相對於電費只是捨入誤差。真正的帳單是那張卡，而無論你處理 200 頁還是 20,000 頁，那張卡都一樣。

在任何人急著跑去買硬體之前，有三點注意事項。第一，這在低用量時就不再成立——一張 96 GB 的顯示卡，加上運行它所需的電力，每月成本比大多數團隊花在 token 上的費用還高，而一天 200 頁的話，你很可能會虧錢。第二，大多數人實際上會跑的 NVIDIA 量化版本 q4_K_M，在任何地方都沒有公開的評估；NVIDIA 模型卡上的每個數字都是 BF16 或 NVFP4，所以你部署的版本的準確度是未知的。第三，Astra 的輸出可量測地更佳，而在一個讀錯參考編號就會造成實際成本的語料庫上，更好的準確度可以壓過任何大小的價差。

Astra 不僅僅是更好，而是在結構上更好

把 Astra 說成是更便宜選項的昂貴替代品，會是不誠實的。從多個面向來看，它屬於不同級別的產品，而差異並不在於分數。

Astra 會透過 Responses API 回傳完整的推理軌跡。對於必須證明決策正當性的管線——例如理賠裁定、合規審閱、醫療編碼流程——可稽核的軌跡不是一項功能，而是必要條件。NVIDIA checkpoint 在聊天模板中有一個可開啟與關閉的思考模式，而且完全沒有託管的追蹤呈現介面，這表示你必須自行建置稽核層。

Astra 支援具備 schema 與 seed 的結構化輸出。在文件擷取管線中，若輸出必須符合記錄版面配置，能受 schema 約束的模型，其整合成本會低於需要驗證並重試的模型；而重試成本在它不再隱形之前，始終是隱形的。

Astra 的工具介面是自家的第一方產品：函式呼叫、response_format、seed，以及以工具形式提供的網頁搜尋。NVIDIA 檢查點的部署配方重用了並非由它自行撰寫的工具呼叫解析器——供應商自家的 vLLM 配方將 code>qwen3_coder/code> 指定為工具呼叫解析器，並將 code>nemotron_v3/code> 指定為推理解析器。這是合理的工程選擇，同時也意味著工具呼叫介面是借用而來，而非專為此模型設計，且在能夠信任之前還需要經過測試。

vLLM 配方也會告訴你，供應商預期一個副本要處理哪些規格：張量平行度為 4、GPU 記憶體使用率 0.85、最多 32 個並行序列、每個提示詞一張圖片和一段影片、影片剪枝設為 0.5，以及透過內建 MTP 頭進行推測解碼，並使用三個推測 token。32 個並行序列是四 GPU 節點的上限。Astra 的上限則是速率限制。

NVIDIA 預設設定中的陷阱，以及它為何會先出現在文件上

這個細節將決定第一個實驗是否成功，而且唯有閱讀執行階段登錄檔，而非供應商的貼文，才能看見它。

這張卡片指定了兩種取樣設定：文字工作使用 temperature 1.0 搭配 top_p 0.95，視覺使用 temperature 0.6 搭配 top_p 0.95。Ollama manifest 中隨附的預設值是文字那一組——code>{"temperature": 1.0, "top_p": 0.95}/code> 搭配 code>draft_num_predict: 3/code>。因此，大多數人接觸這個視覺模型時所處的設定，是為它不是視覺的那一半調校的。如果你用它做的第一件事，是把它指向一張掃描的發票，而結果鬆散或產生幻覺，那麼取樣設定就是第一個該改的地方——在你對這個 checkpoint 下任何結論之前。

部署前還有兩項登錄庫細節值得留意。已發佈的九個標籤之中，有四個—— code>:latest/code>、code>:120b/code>、code>:120b-a12b/code> 和 code>:120b-a12b-q4_K_M/code>——會解析到同一個 q4_K_M 層，因此以完整參數數量命名的標籤，並不是你收到的檔案。而且版本閘門是強制執行而非僅供建議：設定宣告 code>requires: 0.40.5/code>，所以在較舊的執行階段上，拉取完全無法運作。

將那一點與這個比較另一側的失效模式相比，也就是端點變更。Astra 是代管服務；其行為可以修改。這兩種風險都不是避免使用該模型的理由。它們是不同的風險，需要不同的緩解措施——一邊是設定變更，另一邊是備援路由。

路由答案，兩者相同

Astra 就在我們的金鑰上。OrcaRouter 以供應商牌價原樣透傳，不按 token 加價——每百萬個 token $10 與 $50，長上下文層級的定價與 OpenAI 完全相同，在我們這邊當天即上線，而不是等到你下次續約。如果問題是 Astra 能否處理你的文件工作負載，那就只需一把金鑰，無須採購，而答案只花費幾美元的 token。

NVIDIA 的檢查點不在我們的金鑰之下。我們路由了兩百多個模型，其中並沒有 NVIDIA Nemotron 這一項，所以本文並不是在宣稱你可以在此地呼叫它。如果你需要那個檢查點，NVIDIA 自家的建置與散布管道，以及本地端拉取，才是你的途徑。

在這項決策中，平台真正的作用是決定先後順序。先讓語料庫在 Astra 上跑，並衡量兩件事：每頁成本和每頁錯誤率。這兩個數字合在一起就能決定一切。如果錯誤率低且量少，就永遠留在按量計費的模式——用硬體永遠贏不過它。如果錯誤率低且量大，你現在就有站得住腳的理由，把一般頁面移到你自己擁有的加速卡上，同時把困難的頁面繼續留在按量計費上。如果錯誤率高，NVIDIA 這邊再大的價格優勢都沒用，因為誤讀一張發票的損失計算，不是 token 多寡的問題。

無論你選擇哪一條路，都要把新模型放在備援機制後面來路由。權重已經四天大的檢查點，就有四天的實際運作歷史，而針對這點最便宜的保險，就是在同一次呼叫中加入第二個模型。Astra 放在一個已四天大的開放模型後面作為備援是很合理的；它也是本頁大多數讀者會得出結論、認為自己不需要替換的模型。