NVIDIA Nemotron Labs Dory 1.0 4B 對比 Gemma 4 12B：參數多三倍，工作卻截然不同

要比較 NVIDIA Nemotron Labs Dory 1.0 4B 與 Gemma 4 12B，最顯而易見的讀法是把這場比較看成規模之爭——4B 對上 12B，小對中——但這種框架浪費了這次比較，因為這兩個模型接受的輸入不同、授權立場不同，速度提升的方式也不同。Dory 是純文字、僅支援英文的迴圈網路，其最大特色是一次下載就能服務多種運算預算。Gemma 4 12B 則是多模態的任意對任意模型，透過單一無編碼器堆疊接收文字、圖像與音訊，並回傳文字。參數差距確實存在，但這卻是兩者之間最不具資訊量的差異。以下是真正區隔兩者之處，包括還沒有人實際跑過實驗的部分。

一次看懂每一個是什麼

NVIDIA Nemotron Labs Dory 1.0 4B 是一款 4B 密集模型，由 NVIDIA 訓練，並以四種量化格式發布至 Hugging Face——BF16、MXFP8、NVFP4，以及 Q5_K_M GGUF——採用 OpenMDW 1.1 授權。其模型卡將此版本標記為「GA (10/16/2026)」。它處理文字輸入與文字輸出，僅支援英文，上下文長度最高可達 256K 個 token。其架構才是重點：一個 20 層的循環區塊，在一個 8 層輸入區塊與一個 8 層輸出區塊之間，以可變次數反覆套用，因此迴圈次數成為推論服務時的可調參數，而非訓練時的決定。NVIDIA 建議預設使用兩次迴圈，而當代理任務準確度更為重要時則使用四次。這次發布完全沒有事先公告；儲存庫在一夜之間補齊，而廠商並未發布任何 accompanying 文章。

Gemma 4 12B 是 Google DeepMind 的 11.95B 稠密多模態模型，採 Apache 2.0 授權，具備 256K 上下文、48 層搭配混合注意力與 1024 個 token 的滑動視窗，以及 262K 詞彙量。它被描述為無編碼器（encoder-free）：圖像區塊與音訊波形直接投影到語言模型的嵌入空間，而非經過獨立的視覺與音訊編碼器。輸入為文字、圖像與音訊；輸出為文字。影片以取樣影格的方式處理，模型卡將音訊上限設在約 30 秒，影片則約 60 秒、大約每秒一個影格。它支援可配置的思考模式與原生系統角色，且自 2026 年年中起便已公開並被廣泛下載。

在出現任何數字之前，有一點值得先釐清：Dory 以四種變體推出，而其中最常被引用的儲存庫 ID 是 MXFP8 版本，但 NVIDIA 所發布的基準測試是在 BF16 上測得的。MXFP8 檢查點是同一組權重的量化，而不是不同的模型。

基準問題：這兩者從未互相較量過

這是比較文章通常會掩蓋的部分，因此值得直白說清楚。Dory 1.0 4B 與 G​emma 4 12B 之間沒有共用的測試框架結果。N​VIDIA 為 Dory 發布的基準測試表，是將它與 Qwen3.5-4B、Qwen3.5-9B、G​emma 4 26B A4B 及 Qwen3.6-35B-A3B 相比——它選用的是 26BG​emma，而非 12B，而且完全未納入 12B。G​oogle 針對 12B 公布的數據來自不同的測試框架，對照的是不同的比較組合，且出自數個月前發布、涵蓋不同任務組合的文件。

把兩張模型卡的數字並排放，會產生一張看似權威、實則毫無意義的表格，因為兩個測試框架之間的兩分差距，並不等於兩個模型之間的兩分差距。所以誠實的說法是這樣：Dory 自家的模型卡聲稱，在四個迴圈下具備約 Qwen3.5-9B 等級的代理行為，卻在知識密集型基準測試上落後於它自己的每一個比較對象；而 G​emma 4 12B 的模型卡則聲稱具備多模態規格、256K 視窗，以及涵蓋 G​emma 4 系列各款的指令微調變體。這兩項說法能否在接觸對方的任務集後依然成立，尚未經過測試。

它們真正重疊之處，以及重疊的界線所在

四個維度對真正的決策至關重要，而它們指向不同的方向。

• 模態 — G​emma 4 12B 可接受文字、圖像與音訊。Dory 1.0 4B 僅接受文字。這不是一套測試框架能彌補的基準落差；這是其中一個模型具備、另一個沒有的能力，而且如果你的工作負載中任何地方有螢幕擷取畫面、掃描頁面或語音片段，比較就已經結束了。

• 語言——Dory 僅支援英文。Gemma 4 的產品線支援多語言，其 12B 模型卡載有多語言評估與語音結果，包括非英語翻譯基準。生產環境中只要出現第二種語言，Dory 就出局。

• 背景 — 兩者都標榜 256K，而這是規格真正吻合的唯一一處。Dory 的規格卡指出，在隨附的啟動命令下，vLLM 中驗證了 262,144 個位置；G​emma 4 12B 則聲明 256K，並在混合注意力堆疊中配備 1024 個 token 的滑動視窗。針對 G​emma，已有發表的長上下文評估；而對 Dory 而言，唯一的長上下文數據列是 N​VIDIA 自家的，其以修正後的答案鍵和較舊的評審模型測量，規格卡對此有所揭露。

• 運算行為——這是 Dory 的不對稱優勢，而這與品質毫無關係。G​emma 4 12B 是傳統的稠密模型：固定深度、每詞元固定成本，要改變帳單就得擴充硬體或縮短脈絡。Dory 的深度則是執行期參數。在延遲是限制時以單一迴圈執行，在準確度是限制時以四個迴圈執行，而無須下載第二個檢查點。N​VIDIA 也推出了一種最後迴圈 KV 快取模式，旨在無論迴圈數多寡，都將快取佔用量維持在約略等同單一迴圈的大小——若此說法經得起考驗，便消除了對遞迴架構的標準質疑。這是規格中最值得獨立查核的一項主張。

• 授權條款 — Dory 採用 OpenMDW 1.1，G​emma 4 12B 採用 Apache 2.0。兩者皆允許商業使用。若您的法務審查認為 Apache 2.0 是阻力最小的途徑，那麼 G​emma 一開始就具備一項與權重毫無關係的優勢。

執行它們：一個是例行性的，另一個是建置

G​emma 4 12B 是標準 L​lama 系列形式的下載項目。它採用 Transformers 格式，能在你既有的引擎上執行，而量化版本——QAT GGUF 與 w4a16 變體——自模型本身發布後不久便已公開。

Dory 1.0 4B 尚未成熟，而卡片也直言不諱。vLLM 支援在一個開啟中的提取請求裡處於「審查中」狀態；在它合併之前，您需要從該分支安裝 vLLM，並帶上預編譯核心旗標，然後在提供服務時傳入迴圈計數和 KV 快取的覆寫參數。llama.cpp 支援則在第二個開啟中的提取請求裡，而 N​VIDIA 固定的是特定提交，而非變動的 head，這對參考設定來說是正確的做法，但仍然意味著需要從原始碼建置。在我們能驗證的任何地方，Dory 都沒有託管端點——無論是來自 N​VIDIA 還是其他任何人——而且在撰寫本文時，其全部四個儲存庫的下載計數器仍然為零。相比之下，G​emma 4 12B 在過去一個月內已被下載遠超過一百萬次，並且擁有圍繞它建立的微調與量化生態系統。對大多數團隊而言，這種成熟度差距比任一卡片上的任何基準測試差異都來得大。

雙方在硬體細節上的資訊都不多。NVIDIA 唯一公開的 Dory 速度數據，是在 DGX Spark 上的量化加速倍數——MXFP8 相較於 BF16 為 1.69× 與 1.84×，視輸入/輸出組合而定；NVFP4 則為 2.17× 與 2.44×——並非吞吐量數據。至於 Gemma 4 12B，其對應問題——在給定上下文長度下的 VRAM——可以從一年來的社群實測得到解答，而不是從這張卡得知。

老實說，路由器是在哪裡介入的

這兩個模型都不是我們所提供的，而直言此事比暗示其他情況更有用。NVIDIA Nemotron Labs Dory 1.0 4B 不在 OrcaRouter 目錄中，且在任何地方都沒有託管端點；Gemma 4 12B 本身也不在目錄中，不過它較大的同系列模型 google/gemma-4-26b-a4b-it 與 google/gemma-4-31b-it 則有在目錄中。

這留下來的，是這個決策在實務上的樣貌。如果你正在一個必須自行架設的 4B 模型，和一個可以租用的 12B 模型之間做選擇，自己架設的那一邊得扛 GPU 帳單和維運負擔，租用那邊卻不用，而唯一能誠實估算這些成本的方法，就是拿你自己的任務集把兩邊都跑一遍。OrcaRouter 對那項實驗中屬於託管的那一半很有用：一組 API 金鑰就能連到我們確實有提供的開放權重 Google 模型，以供應商牌價計費、零加成，所以這項比較不需要第二份合約或第二套 SDK。自動容錯移轉能涵蓋你自己的 GPU 池在基準測試跑到一半時滿載的時段，而路由 DSL 讓自行架設的呼叫和託管的呼叫能共處在同一個端點後方，因此切換陣營只是改個設定，而不是改寫程式。這些都不會告訴你哪個模型勝出。它只是拿掉了不去找出答案的藉口。

所以是哪一個？

如果你的任務是純文字、僅限英文且具備長上下文，尤其如果它還帶有代理性——工具呼叫、多步驟工作流程、結構化輸出——那麼 Dory 1.0 4B 是更有意思的賭注，而且它的架構能提供 12B 無法提供的東西：一個運算調節鈕。下這個賭注時，請睜大眼睛看清成熟度落差、兩個尚未合併的拉取請求、完全缺乏獨立評估，以及它自己的說明卡在 GPQA 和 HLE 上把它排在每個比較對象之後的事實。

如果你的任務涉及圖像、聲音、第二語言，或是下個月內的交付期限，G​emma 4 12B 就是答案，而這場比較從來毫無懸念。它是個更大、更昂貴、能力更強的模型，背後有完整的生態系，使用前卻無需任何建置步驟。

值得關注的不是基準測試的數字，而是 vLLM 和 llama.cpp 的 pull request 是否會合併。等到 Dory 能從正式發佈的 binary 載入，而不是從某個 branch，這場比較中的自架設（self-hosting）那一邊就不再是一個專案，而會變成一項設定變更。在那之前，誠實的結論是：這兩個模型中，一個是產品，另一個是一夜之間冒出來的 repository；而你想要哪一個，完全取決於你是在出貨還是在測試。

這些都不是假設：像這次發布這類版本背後那些有紀錄的 AI 失效與代理事件，全都收錄在OrcaRouter AI Incident Archive，其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。