Granite 4.2 30B 對比 Nemotron 3.5 Lightning：思考者與行動者

Granite 4.2 30B 與 Nemotron 3.5 Lightning 是兩個 30B 開放權重模型，發布時間相隔十四天，任務幾乎完全相反。Nemotron 3.5 Lightning 由 NVIDIA 於 2026 年 8 月 11 日發布，是總參數 30B / 啟動參數 3B 的混合式 Mixture-of-Experts——Mamba-2 狀態空間層、MoE 與注意力——專為擔任代理系統的執行層而打造：快速工具呼叫、高吞吐迴圈、子代理工作，可在單一 GPU 上運行。Granite 4.2 30B 由 IBM 於 2026 年 8 月 25 日悄悄發布在 Hugging Face 上，是稠密的 290 億參數推理模型——一位思考者，具備可選的思考模式與代理強化學習，也可自行託管。兩者皆為開放（Apache 2.0 對照 OpenMDW-1.1），都能在團隊實際擁有的硬體上運行，而且都是 8 月發布、基準測試仍基本上由廠商自行報告的模型。有趣的問題不在於哪個比較好，而在於你需要哪一個——規劃者、執行者，或兩者兼具。

這種規劃器/執行器的分工並非編輯杜撰，而是 NVIDIA 自身的設計。Nemotron 3.5 Lightning 是從規模遠大得多的 Nemotron 3 Ultra 蒸餾而來，目的正是讓一個前沿模型負責規劃，而 Lightning 負責執行迴圈；NVIDIA 還同時推出了 NeMo Switchyard，這是一個路由庫，實現的正是這種分工模式。相比之下，Granite 4.2 30B 則試圖在單一 30B 套件中扮演完整的智能體。

Granite 4.2 30B，思考者

IBM 的旗艦 Granite 4.2 模型是一個密集的僅解碼器（decoder-only）Transformer，具有三種推理模式——完整思考（包在 think>.../think> 標籤）、低努力思考與不思考——外加 OpenAI 相容的工具呼叫與代理強化學習，使其學會在沙盒中操作終端、執行程式碼及搜尋網路。其 128K 原生脈絡可延伸至 512K。IBM 的規格表宣稱在 AIME 2025 上取得 89.17、MMLU-Pro 上 77.60、SWE-Bench Verified（in-harness）上 57.00——這些皆為廠商自行回報，未經獨立重現，也尚無 Artificial Analysis 的條目。總而言之，這是一個通用型推理模型，特別針對代理任務強化，並提供 BF16 加 FP8、NVFP4/MXFP4 及 GGUF 量化版本，讓團隊真的能跑起來。

Nemotron 3.5 Lightning，執行者

NVIDIA 的產品則是截然不同的形態。「30B A3B」這個名稱代表總共有 300 億個參數，但每個 token 只啟用約 30 億個——這是一種混合架構，結合 Mamba-2、MoE 與注意力機制，讓它能夠快速且低成本地生成。它內建推論加速功能（speculative decoding）：Multi-Token Prediction 頭，加上 DFlash 與 DSpark 草稿模型，因此由一個小型草稿模型提出 token，再由主模型平行驗證。NVIDIA 宣稱其輸出速度相較於同級模型最高可達 4 倍，而且整個模型只需在單一 GPU 上運行——RTX 5090、DGX Spark 或 Jetson——或在單張 H100 上支援 256K 上下文，而該模型原則上可支援高達 1M 的上下文。其授權為 OpenMDW-1.1，涵蓋權重、訓練資料與配方。

NVIDIA 自身的定位對 Lightning 不具備什麼直言不諱：其發布的評估顯示，作為主要代理（agent）時 Terminal-Bench 表現疲弱——LLM Stats 獨立驗證了 Terminal-Bench 2.1 上約 24.6 的成績——並建議將其用作執行者，而非規劃者。其自我報告的優勢包括 MMLU Pro 81.94、GPQA Diamond 75.44、SWE-Bench Verified 51.56，以及 PinchBench 86% 的準確率，同時在相似準確率下完成任務的速度比 Qwen 3.6 35B 快約 30%。這些數字每一個都是 NVIDIA 自己提供的。

記分板，如實標示。

有用的比較是欄位的形狀，而不是列的值：

• Granite 4.2 30B — 約 29B 稠密參數，所有參數皆為啟用；Apache 2.0 授權；原生 128K／延伸 512K；可依請求選擇推理模式；供應商回報 SWE-Bench Verified 57.00、Terminal-Bench 2.1 29.24；思考者。

• Nemotron 3.5 Lightning — 總計30B / 3B活躍參數的混合MoE；OpenMDW-1.1；1M上下文（單一H100上實際256K）；推測解碼（MTP/DFlash/DSpark）；供應商回報SWE-Bench Verified 51.56、Terminal-Bench 2.1約24.6（LLM Stats已驗證）；實幹者。

請按照 NVIDIA 的意圖來閱讀這些數據列：Lightning 在 Terminal-Bench 上的弱點是其設計的特點——它本不該規劃，而該執行。Granite 的數字來自單一模型，聲稱能兩者兼顧。這兩組數據在發佈時皆未被獨立重現；兩者都將在數週內做到。

技術棧，不是模型

這兩個模型與其說是競爭對手，不如說是同一系統中的相鄰組件。代理程式需要規劃器來拆解任務，也需要執行器來處理數千次工具呼叫。Granite 4.2 30B 試圖將兩者整合進單一密集模型中；Nemotron 3.5 Lightning 則明確是雙模型堆疊的一半，另一半由前沿模型擔當。NVIDIA 將該堆疊稱為 NeMo Switchyard；其路由層可對任何混合的託管與自架模型執行相同功能。

這正是誠實的路由說明該出現的地方。這兩個模型都不在 OrcaRouter 上——Granite 4.2 30B 和 Nemotron 3.5 Lightning 我們都不做路由，兩者的取得途徑都是您自己的硬體或供應商自身的通路。但他們所指出的雙模型模式，正是路由 DSL 的用武之地：為推理階段組合一個自架 Granite 端點，為執行迴圈組合一個自架 Lightning 端點，在前面放一個託管的前沿模型來處理需要更多餘裕的規劃工作，然後用一個 API 金鑰搭配自動容錯移轉來驅動全部三者。您不必在思考者與行動者之間二選一——您可以組裝一個讓每個模型各展所長的架構，並讓路由器來仲裁。

哪一個先？

If you want a single model to own, one codebase, one serving stack, and are willing to give it all the reasoning and execution work, start with Granite 4.2 30B — but wait for the first independent benchmark before trusting the 57.00 SWE-Bench number. If you are building a high-volume agent where most calls are short tool steps and latency is the budget, start with Nemotron 3.5 Lightning and let a frontier model or a Granite endpoint do the thinking. If you are building anything serious, the answer is both — which is a decision a 30B-only comparison would never have surfaced.