LFM3-1.7B 對決 Nemotron 3.5 Lightning 30B A3B：一 GB 對二十二 GB

大多數模型比較都從基準測試表開始。這次必須從記憶體預算開始，因為 LFM3-1.7B 和 Nemotron 3.5 Lightning 30B A3B 在系統中並不是爭奪同一個位置。NVIDIA 的模型於 2026 年 8 月 11 日在 OpenMDW-1.1 下發布，其 NVFP4 版本需要約 22 GB。Liquid AI 的模型於 2026 年 10 月 27 日宣布，在 4 位元下需要約 1 GB，並設計為可在手機上運行。 對於任何我們不自行託管的模型，路由是控制面，而不是主機。供應商標價以 0% 加價 轉嫁。

該事實之後的一切皆由此而來。在兩家廠商公布的所有基準測試中，Nemotron 3.5 Lightning 都是能力更強的模型——GPQA Diamond 為 75.57，對比 63.37；SWE-bench Verified 為 52.80，對比 43.40，如 NVIDIA 自家 Hugging Face 模型卡上的評估面板所列。它也具備高達 100 萬個 token 的上下文視窗，相較於 262,144。如果你問的是哪個模型更好，答案明確無疑，本頁可以在此結束。

反而值得問的問題是：哪個模型在你的部署環境中有用武之地。22 GB 的模型在任何有用的配置下都無法在手機、筆記型電腦或 Jetson 上運行。1 GB 的模型無法修復儲存庫。這些是不同的限制條件，而只計算基準測試分數的比較會告訴你買錯模型。

到底什麼適合放在哪裡？

Nemotron 3.5 Lightning 30B A3B 是一款混合式混合專家模型：總參數達 300 億，其中約 30 億為活躍參數；具備 128 個路由專家，每次有六個專家啟動，另加一個共享專家；並以 Mamba-2 狀態空間層與少量全注意力層交錯堆疊。NVIDIA 提供 BF16 參考權重，以及約 22 GB、可放入單一 GPU 的 NVFP4 版本；該模型可在 B200、H100、H200、A100、GB200、DGX Spark、RTX 5090 與 Jetson 硬體上執行。

LFM3-1.7B 稠密且小巧：17.3 億個參數、24 層閘控短卷積與稀疏注意力，BF16 格式下為 3.46 GB，4 位元量化後約 1 GB。Liquid 的說明卡指出它能放進手機或筆電，而在這樣的尺寸下，這個說法確實站得住腳。

• 參數總數 — LFM3-1.7B 為 1.73B 稠密模型；Nemotron 3.5 Lightning 為 30B，其中約 3B 為作用中參數。

• 部署記憶體 — 4 位元時約 1 GB，相較於 NVFP4 的約 22 GB。

• 上下文 — 262,144 個 token，相較之下最高可達 1,000,000，單張 H100 上為 256K，託管端點上為 262K。

• 模態 — 兩者皆僅限文字；在這些檢查點中，兩者都未附帶視覺或音訊路徑。

• 語言 — LFM3-1.7B 指定十六種；Nemotron 3.5 Lightning 則為英文加五種。

• 授權 — LFM Open License v1.0，年收入低於 1,000 萬美元可免費使用；對比 OpenMDW-1.1，其允許商業及非商業使用，且無收入門檻測試。

Nemotron 的速度論點並不是因為它很小

很容易把「Lightning」和「3B active」解讀成與小型稠密模型相同的賣點。事實並非如此。NVIDIA 的速度敘事建立在三件 LFM3 模型不具備的事情上：能在長序列中擴展得更好的 Mamba-2 混合架構、搭配推測解碼的多 token 預測，以及專用的草稿模型——用於 DGX Spark 與低併發場景的 DSpark，以及作為替代方案的 DFlash。

已公布的測量結果佐證了這一點。在 DGX Spark 上，搭配 DSpark 的 vLLM 在單流下達到約每秒 115.8 個 token，並在八個並行請求時達到約每秒 422 個 token 的總吞吐量，而在未使用推測解碼時約為每秒 79.6 個 token。NVIDIA 宣稱其生成速度最高可達類似規模模型的四倍，並將該模型定位於準確度與速度的帕雷托前緣。

LFM3-1.7B 的速度優勢在性質上截然不同。它之所以快，是因為幾乎沒有什麼需要執行 —— 17.3 億稠密參數、128K token 下 1.6 GB 的 KV cache，而且沒有路由額外開銷。Liquid 表示，在受測硬體上，其解碼速度比自家前代產品快 1.8 至 2.8 倍，單張 NVIDIA B300 每天可處理 36 億 token。那是在沒人會塞進手機裡的硬體上所達到的吞吐量。

所以這兩個模型之所以快，原因正好相反：一個是靠工程手法讓大型模型在每個 token 上減少運算量，另一個則是本身小到這個問題根本不存在。在伺服器上，工程手法勝出。在裝置上，小模型是唯一存在的選項。

能力差距，直白地說

NVIDIA 的 Hugging Face 模型卡列出 Nemotron 3.5 Lightning 30B A3B 在 MMLU-Pro 上為 81.62、在 GPQA Diamond 上為 75.57，以及在 SWE-bench Verified 上為 52.80。Liquid 報告 LFM3-1.7B 在 GPQA Diamond 上為 63.37、在 SWE-bench Verified 上為 43.40，且完全未公布該模型在 MMLU-Pro 的分數。

這三者中有兩項可直接比較，且兩項都對 NVIDIA 有利，分別領先 12.2 與 9.4 分。這正是在小型稠密模型最弱的那類任務上出現的真實差距：研究所程度的科學推理，以及儲存庫規模的程式碼修復。Liquid 自家的模型卡也承認了第二點，表示由於模型規模小，不建議將其用於代理式編碼或複雜的多步驟推理。

關於確切數字的注意事項：NVIDIA 針對此檢查點公布的數據，在其發布資料與 Hugging Face 評估面板之間略有出入——較早的報導對同兩個基準分別引用 75.44 與 51.56。差距的方向與大致幅度在各版本間維持穩定；請將具體小數視為廠商回報且依版本而異，而非固定分數。

LFM3-1.7B 有自己的數據，但這些數據偏向代理任務，而非知識型：BFCL V4 為 71.39，ToolSandbox 為 80.36，τ³-bench 為 68.01，WebArena-Verified 為 38.42，IFEval 為 96.66。NVIDIA 並未公布此檢查點的 BFCL 或 ToolSandbox 數據，因此這些數據無法直接對照。NVIDIA 確實報告在 PinchBench 的 10,000 項任務中達到 86% 準確率，且在準確率相近的情況下，完成速度比 Qwen3.6-35B 快 30%——這是 Liquid 沒有對應數據可比的說法。兩家廠商測量的根本是不同東西，唯有重疊部分才足以支持判斷。

脈絡才是最巨大的真實落差。

一百萬個 token 對比 262,144，並不是微不足道的差距。Nemotron 3.5 Lightning 的原生視窗長度是四倍，而且即使是保守的單一 H100、256K 配置，也達到 LFM3 模型的最大值。對於圍繞整個儲存庫上下文、長時程代理軌跡或長達一小時的逐字稿所建立的工作負載，小型模型的視窗會比其能力更早成為限制。

不過值得注意，長視窗與長上下文保留是兩種不同的說法。LFM3-1.7B 在 128K 的 RULER 上回報 65.56，這算中等——它能接受 262K 個 token，但無法同樣良好地保留所有這些上下文。NVIDIA 並未在本文檢視的資料中公布此檢查點的 RULER 數值，因此無法進行保留能力的比較。不要假設 1M 視窗就等同於 1M 的可用注意力。

授權條款的差異比基準測試所顯示的更大。

這是小型模型廠商做出較不方便選擇的唯一面向。Nemotron 3.5 Lightning 30B A3B 以 OpenMDW-1.1 釋出，允許商業與非商業使用，且無營收門檻。LFM3-1.7B 採用 LFM Open License v1.0，年營收低於 1,000 萬美元可免費商業使用，超過該門檻則需付費商業授權。

對個人開發者或新創公司而言，這項差異是理論上的。對大型企業內的團隊，或計畫發展成大型企業的團隊而言，這是一道採購程序，而 Nemotron 完全避開了它。既然 LFM3-1.7B 的整體賣點就是部署在你自己的產品內，那麼在讚賞其架構之前，值得先讀一讀授權條款。

1 GB 模型仍是最佳答案之處

上述任何一點都不會讓 LFM3-1.7B 成為糟糕的模型。這反而讓它成為一個部署範圍狹窄的模型；而在那個範圍內，Nemotron 3.5 Lightning 的一切都無關緊要，因為較大的模型根本無法存在於那裡。

如果產品要出貨到手機、筆記型電腦、沒有獨立 GPU 的 AI PC，或現場裝置，LFM3-1.7B 並不是妥協方案——它是這對模型中唯一跑得動的一員。在能放進口袋的裝置上提供 262,144 個 token 的上下文，確實很不尋常，而十六種語言的詞彙涵蓋了大多數區域部署。對於工具呼叫、結構化擷取、分類與本機助理而言，這已足以打造出產品。

對多數團隊而言，正確的模式是兩者並用、分層處理。把 LFM3-1.7B 留在裝置端，負責快速、私密、符合結構描述格式的呼叫；並把需要大量推理或倉庫規模的工作，送到伺服器端的模型。這是架構上的決策，不是模型偏好，而這恰好也是多數已上線的代理目前既有的建構方式。

路由層的定位在伺服器層。Nemotron 3.5 Lightning 透過 NVIDIA 自家的技術堆疊與多個第三方平台提供服務，而 OrcaRouter 的角色，正是它對任何我們未自行託管的模型所扮演的角色：一組金鑰、一份帳單，涵蓋超過 200 個模型，供應商牌價以 0% 加成原樣傳遞，並可在多個供應商之間自動容錯移轉，讓長時間執行的代理程式不會因為某個端點劣化而失敗。LFM3-1.7B 與 Nemotron 3.5 Lightning 目前都不在我們的型錄中——兩者都是開放權重下載，而較小的一款則是要在您自行擁有的硬體上執行。

地板才是重點

如果你有 GPU，而且你的問題在於能力，那麼 Nemotron 3.5 Lightning 30B A3B 明顯是更好的模型，這點毋庸置疑。它的推理能力更好、修復程式碼的能力更好、可容納四倍的上下文，而且其授權沒有營收門檻。

如果你有一台裝置，而你的問題是沒有其他東西能放得進去，那麼比較結果就會完全反轉。22 GB 的模型不會是候選，而相關數字會變成 1 GB、262,144 個 token，以及強到 Liquid 將其作為該模型主打能力來公布的工具呼叫設定檔。

懸而未決的問題是：Nemotron 的效率配方能否進一步壓縮。一個在 3B 活躍參數下的 30B 模型已能在 Jetson 上運行；同系列中若有一款真正強大的 2B 級模型，就會讓這兩者處於同一場對話，而不是隔著一道記憶體牆各據一方。在那之前，誠實的比較不在於它們的基準測試分數，而在於各自所需的硬體——而其中只有一個不需要任何硬體。