
Inkling vs Nemotron 3 Ultra:你應該部署哪個開放權重模型?
這個 Inkling vs Nemotron比較讓兩款開放權重模型相互對決:Inkling,Thinking Machines Lab(由前OpenAI CTO Mira Murati領導的新創公司)的首次發布版本,以及Nemotron 3 Ultra,NVIDIA的旗艦開放模型。兩者都提供可下載的權重,都針對希望自行託管與微調而非租用封閉API的團隊,並且在相同的開放權重層級中競爭。有趣的是:在我們擁有的正面對決數據中,Inkling vs Nemotron 3 Ultra是我們數據中唯一一個Inkling在每個基準測試項目上都領先的開放對決。以下我們如實列出數字,然後涵蓋授權、VRAM、成本,以及NVIDIA的技術堆疊仍讓Nemotron擁有真正優勢的地方。
給開發者的一則說明:這裡沒有經過審查的直接對比基準,因此比較的是模型和存取方式,而非分數。OrcaRouter 將可透過 API 使用的模型路由至單一 OpenAI 相容端點背後,讓您可以試用並比較 Inkling 和 Nemotron 3 Ultra,而無需串接多個 SDK。
TL;DR 結論: 選擇 Inkling 如果您想要我們資料中更強的原始分數、寬鬆的 Apache 2.0 授權、100 萬 token 的上下文視窗,以及多模態(文字 + 圖片 + 音訊)輸入。選擇 Nemotron 3 Ultra 如果您已標準化於 NVIDIA 的企業與硬體堆疊(NIM 微服務、NeMo、認證的 DGX/Blackwell 部署),並希望模型能夠融入該生態系統。兩者均為開放權重且可自行託管。
關鍵要點
兩者都是開放權重,均可下載且可自託管——這是開放對開放的對決,而非開放對封閉。
Inkling 領先所有基準測試行在我們的正面對比數據(MarkTechPost 集合)中,從 HLE 和 AIME 2026 到 SWE-bench Verified、Terminal Bench 2.1 以及 FORTRESS。
Inkling 也在獨立指標中領先:Artificial Analysis Intelligence Index 41 對 38,優於 Nemotron 3 Ultra。
許可證差異:Inkling是Apache 2.0許可證;Nemotron 3 Ultra則採用NVIDIA的開放模型許可證——在商業部署前請查閱NVIDIA的條款以了解具體細節。
Nemotron 的優勢在於定位: NVIDIA 的企業/硬體堆疊整合,而非我們數據中的基準測試勝出。
注意:Inkling 的基準測試是廠商在發佈時自行報告的;競爭對手的數據來自第三方,且未經獨立審計。
這裡的基準測試是Inkling在推出時由廠商自行報告的(Effort 0.99),第三方數據則來自Artificial Analysis和MarkTechPost;這些數據均未經獨立審計,且競爭對手的數字可能與NVIDIA自行報告的數字有所不同。Inkling自身的規格來自Thinking Machines的模型卡。
快速瀏覽比較
Maker. Inkling: Thinking Machines Lab; Nemotron 3 Ultra: NVIDIA
许可证。Inkling:Apache 2.0(免版税自托管);Nemotron 3 Ultra:NVIDIA开放模型许可(查看NVIDIA条款)
權重。Inkling:開放(Hugging Face);Nemotron 3 Ultra:開放
參數。Inkling:總計975B / 活躍41B(MoE);Nemotron 3 Ultra:不在我們的數據中
Context. Inkling: 最高可达 1M 令牌(托管 API 上为 256K);Nemotron 3 Ultra: 不在我们的数据中
模态。Inkling:文字+圖片+音訊輸入,文字輸出;Nemotron 3 Ultra:不在我們的數據中
自托管/微調。Inkling:是/是 (Tinker);Nemotron 3 Ultra:是/是
託管價格。Inkling:~$1.87 輸入 / ~$4.68 輸出 每 1M (AA);Nemotron 3 Ultra:不在我們的數據中
標記為「Not in our data」的儲存格會被省略而非猜測——請參閱上述的揭露說明。
各類別優勝者
推理/知識。優勝者:Inkling;註解:HLE 29.7% vs 26.6% (MarkTechPost)
數學. 贏家: Inkling; 備註: AIME 2026 97.1% 對 94.2%
編碼。獲勝者:Inkling;備註:SWE-bench Verified 77.6% vs 70.7%
代理终端。获胜者:Inkling; 备注:Terminal Bench 2.1 63.8 vs 56.4
安全性(對抗性)。贏家:Inkling(狹差);備註:FORTRESS 78.0% vs 77.6%
整体智力。优胜者:Inkling; 备注:AA Intelligence Index 41 vs 38
多模態 / 音頻。獲勝者:Inkling; 備註: 文字+圖片+音頻輸入;Nemotron 模態不在我們的數據中
企業/硬體適用性。獲勝者:Nemotron 3 Ultra; 備註:原生NVIDIA堆疊整合
成本(自托管)。优胜者:平局;备注:两者均免版税自托管(每份许可)
直接對比基準測試
以下数字来自单一一致的报告集,由MarkTechPost,加上一个独立指数,来自Artificial Analysis。粗体表示领先者。
HLE(無工具)。Inkling:29.7%; Nemotron 3 Ultra:26.6%; 來源:MarkTechPost
AIME 2026 (數學). Inkling: 97.1%; Nemotron 3 Ultra: 94.2%; 來源: MarkTechPost
SWE-bench Verified (coding). Inkling: 77.6%; Nemotron 3 Ultra: 70.7%; 來源: MarkTechPost
Terminal Bench 2.1 (agentic). Inkling: 63.8; Nemotron 3 Ultra: 56.4; 來源: MarkTechPost
FORTRESS(對抗性)。 Inkling:78.0%; Nemotron 3 Ultra: 77.6%; 來源: MarkTechPost
AA Intelligence Index. Inkling: 41; Nemotron 3 Ultra: 38; 來源: Artificial Analysis

這是我們數據中Inkling的一次完勝。有必要直說:在Inkling被拿來對標的開源競爭對手中,Nemotron 3 Ultra是它在所有指標上都能擊敗的。而面對其他開源模型如GLM 5.2、Kimi K2.6和DeepSeek V4 Pro時,Inkling各有勝負——但在這裡它每一項都領先。


不過仍需留意這些限制。這些是 Inkling 方面在發布當日自行報告的數據,而競爭對手的分數則由第三方彙整,未經獨立審計。FORTRESS 的差距(78.0% 對 77.6%)相當微小,若在不同測試環境條件下重新執行,結果可能翻轉。應將趨勢視為比小數點數據更可靠。
Nemotron 3 Ultra 的勝出之處
Nemotron 3 Ultra 的优势并不在我们的数据计分板上——而是定位。Nemotron 是 NVIDIA 自家的模型系列,这对已经投入 NVIDIA 技术栈的企业来说意义重大:
硬體與軟體共同設計。Nemotron 模型的設計旨在順暢運行於 NVIDIA 的硬體上,並透過 NVIDIA 的企業級工具(NIM 推論微服務、NeMo 框架,以及經過認證的 DGX/Blackwell 參考部署)呈現。如果您的平台團隊已經在使用該技術棧,那麼 Nemotron 能夠以最低的摩擦無縫整合。
企業級支援與配套服務。 對於大型組織而言,由NVIDIA商業機制支援的模型,其採購與支援流程比年輕新創公司的首次發布更為簡便。
生態系統引力。對於在GPU、驅動程式、推論運行時和模型上統一使用單一供應商的團隊,Nemotron減少了活動部件的數量。
這些都不會出現在基準測試表中,但它在企業部署中往往是決定性因素。
哪裡 Inkling 獲勝
我們數據中的每一項基準測試。HLE、AIME 2026、SWE-bench Verified、Terminal Bench 2.1 以及 FORTRESS 都偏好 Inkling,獨立的 AA Intelligence Index(41 比 38)也是如此。
更為寬鬆的授權。Apache 2.0 幾乎是開源授權中最無限制的。Nemotron 的 NVIDIA 開放模型授權可能帶有值得審視的條件(見下文)。
多模態輸入。Inkling 接受文字、圖片和音訊輸入(文字輸出)。Nemotron 的模態支援不在我們的資料中。
巨大的上下文窗口。 Inkling 的權重支援最多 1M 個 token(託管 API 上為 256K)。
可控的思考努力。推理努力旋钮让您在每次请求中权衡成本与深度。
定價與成本 / 總擁有成本
由於兩個模型都是開放權重的,主要的成本問題對兩者而言是一樣的:自托管是免版稅的(需遵守各模型的許可條款)。你支付的是GPU和運營費用,而不是權重費用。
對於 Inkling,如果您偏好託管服務,第三方供應商(根據 Artificial Analysis)的定價大約為 $1.87 / 1M input tokens和$4.68 / 1M output tokens(64K 上下文,快取約 $0.374 / 1M),在 256K 上下文時則提高到約 $3.74 / $9.36。微調是透過 Tinker平台進行(提供 64K 和 256K 上下文選項),目前有上市限時 50% 折扣,並提供免費的 Playground 供您試用。Inkling 也以其 token 效率著稱(每項任務約 25K 輸出 token),這降低了實際的輸出 token 花費。
對於Nemotron 3 Ultra,我們的數據中沒有按託管代幣計價的定價,因此我們不會給出具體數字。定性而言:如果您在現有的NVIDIA企業協議中運行它,模型成本可能會融入更廣泛的堆疊交易中,這可能會獨立於任何按代幣費率改變總擁有成本的計算。
授權與部署
授權。 Inkling 是根據 Apache 2.0 — 商業使用是被允許的,自架託管免版稅,條款簡單且易懂。Nemotron 3 Ultra 是根據 NVIDIA 的開放模型授權。 我們不會猜測其特定條款;負責任的做法是 直接閱讀 NVIDIA 的條款 在投入商業部署之前,因為開放模型授權可能包含使用限制、歸屬要求或可接受使用條件,而 Apache 2.0 沒有這些。實際要點:Inkling 的授權是兩者中更寬容且可預測的。
如何執行 Inkling。權重位於Hugging Face(BF16 + 適用於 NVIDIA Blackwell 的 NVFP4 檢查點)。VRAM 階層:
BF16: ~2TB(約8倍B300或16倍H200)
NVFP4: ~600GB (大約是4×B300或8×H200)
限制性设置:Unsloth 1位GGUF量化
支援的執行環境包括 SGLang、vLLM、TokenSpeed、Unsloth 和 Hugging Face transformers,並可透過 Together AI、Fireworks、Modal、Databricks 及 Baseten 取得託管存取。一個精簡的 vLLM 快速入門範例如下:
vllm serve thinkingmachines/Inkling --tensor-parallel-size 8
如何執行 Nemotron 3 Ultra。 Nemotron 3 Ultra 同樣是開放權重且可自託管的,並且設計為通過 NVIDIA 自身的部署路徑(在 NVIDIA 硬體上的 NIM 微服務和 NeMo 框架)來運行。我們在資料中沒有其確切的 VRAM 佔用量或每個 token 的價格,因此請查閱 NVIDIA 的模型頁面以了解檢查點大小和支援的執行環境。
你應該選擇哪一個?
選擇 Inkling如果您想要我們數據中更強大的測量性能、最寬鬆的授權(Apache 2.0)、多模態輸入、1M token的上下文窗口,以及可在Tinker上微調的token高效模型。對於對成本敏感的團隊以及任何希望最大化部署靈活性的人來說,這是更好的選擇。
選擇 Nemotron 3 Ultra如果您的組織已經標準化於 NVIDIA 的企業和硬體堆疊,並且重視其緊密整合、套裝和支援,勝過基準差距。記分板偏向 Inkling;而生態系統可能對您而言偏向 Nemotron。
不確定嗎? 兩者都可免費自託管,因此低風險的做法是針對您自己的代表性任務,對 Inkling(透過免費的 Playground 或託管供應商)和 Nemotron(透過 NVIDIA 的部署路徑)進行原型測試。基準測試指出了一個方向;您的工作負載才是真正的評判者。
如需更深入了解Inkling本身,請參閱我們的完整Inkling AI模型評測以及說明文章《什麼是Inkling AI?》。針對其他開放權重模型比對,請比較Inkling與Kimi K2.6以及Inkling與GLM 5.2,其結果比此處更為接近。
常見問題
Inkling 比 Nemotron 3 Ultra 更好嗎?根據我們擁有的資料,是的。Inkling 在每一個面對面的基準測試行(MarkTechPost 資料集)和獨立的 Artificial Analysis Intelligence Index(41 比 38)中都領先。話雖如此,這些數字是自行報告或來自第三方,未經獨立審計,而且「更好」也取決於每個模型與您現有技術棧的契合程度。
哪個更適合編碼?根據數據,Inkling 勝出:SWE-bench Verified 77.6% 對比 70.7%,Terminal Bench 2.1 63.8 對比 56.4(均來自 MarkTechPost)。一如既往,在決定前先用你自己的程式碼庫驗證。
哪個更便宜?兩者都可以免版稅自行託管,所以誠實的答案是「取決於你的基礎設施」。Inkling 有公開的託管價格(透過 AA 約為每百萬輸入/輸出代幣 $1.87/$4.68),且其代幣效率高;我們的數據中沒有 Nemotron 的託管定價,其成本可能包含在更廣泛的 NVIDIA 協議中。
Nemotron 3 Ultra 是否為開放原始碼?它是開放權重——權重可供下載——但它是基於 NVIDIA 的開放模型授權條款發布,並非標準的 OSI 認可的開放原始碼授權。「Open weight」與「open source」不同。請參閱 NVIDIA 的條款以了解具體細節。相比之下,Inkling 使用 Apache 2.0 授權。
我可以自行託管 Nemotron 3 Ultra 嗎? 可以。它採用開放權重且可自行託管,專為在 NVIDIA 硬體上透過 NVIDIA 的部署工具(NIM/NeMo)執行而設計。商業使用前請先檢閱授權條款。
我可以微調 Inkling 嗎? 可以。Inkling 專為客製化而設計:透過 Tinker 平台進行微調(提供 64K/256K 上下文選項,且推出優惠),或者自行託管 Apache 2.0 權重並在自己的基礎設施上進行微調。
結論
在我們擁有數據的開放式競爭對手中,Nemotron 3 Ultra 是 Inkling 明確擊敗的對象——無論是每一項基準測試成績,還是獨立智慧指數,Inkling 均領先,而且採用更寬鬆的 Apache 2.0 授權,並支援多模態與長上下文。Nemotron 3 Ultra 的真正優勢不在於分數排行榜,而在於它原生融入 NVIDIA 的企業與硬體生態系,這對於已經投入該技術堆疊的團隊來說,可能比幾項基準測試的分數更重要。請記住這些前提——這些數字均未經獨立審計——但若您根據可衡量的能力與授權自由度來選擇,Inkling 在此是更優的選項。
