NVIDIA Nemotron Labs Dory 1.0 4B 与 Gemma 4 12B：参数量是对方的三倍，干的却不是同一件事

将 NVIDIA Nemotron Labs Dory 1.0 4B 与 Gemma 4 12B 的对比解读为一场规模之争——4B 对 12B，小型对中型——是最显而易见的方式，但这种框定会让这次对比失去价值，因为这两个模型接受的输入不同，持有的许可立场不同，提速方式也不同。Dory 是一个纯文本、仅支持英语的循环网络，其标志性特征是，一次下载即可满足多种算力预算。Gemma 4 12B 是一个多模态任意到任意模型，通过单一的无编码器堆栈接收文本、图像和音频，并返回文本。参数差距确实存在，但这是两者之间最不具信息量的差异。以下才是真正区分两者的地方，包括那些尚无人做过实验的部分。

每个是什么，一次讲清

NVIDIA Nemotron Labs Dory 1.0 4B 是由 NVIDIA 训练的 4B 稠密模型，并以四种量化形式发布到 Hugging Face——BF16、MXFP8、NVFP4 以及一个 Q5_K_M GGUF——采用 OpenMDW 1.1 许可证。其模型卡将构建标记为“GA (10/16/2026)”。它处理文本输入和文本输出，仅支持英语，上下文长度最高可达 256K 个 token。架构才是重点：一个 20 层的循环块在 8 层输入块和 8 层输出块之间以可变次数重复应用，因此循环次数成为服务时可调的旋钮，而不是训练时的决定。NVIDIA 建议默认采用两次循环，而当智能体准确性更重要时采用四次。此次发布没有任何公告；相关仓库在一夜之间被填充，而厂商没有发布任何配套文章。

Gemma 4 12B 是 Google DeepMind 的 11.95B 稠密多模态模型，Apache 2.0 许可，256K 上下文，48 层，采用混合注意力和 1024 token 滑动窗口，以及 262K 词表。它被描述为无编码器：图像块和音频波形直接投影到语言模型的嵌入空间中，而不是通过单独的视觉和音频编码器。输入文本、图像和音频；输出文本。视频以采样帧的方式处理，模型卡将音频限制在约 30 秒，视频限制在约 60 秒，帧率大约为每秒一帧。它支持可配置的思考模式和原生系统角色，并且自 2026 年中期以来已公开并被广泛下载。

在任何数字出现之前，有一点值得先澄清：Dory 有四个变体，其中仓库 ID 最常被引用的那个是 MXFP8 构建，但 NVIDIA 发布的基准测试是在 BF16 上测得的。MXFP8 检查点是同一组权重的量化，而不是另一个模型。

基准测试问题：这两者从未相互较量过

这正是对比类文章通常含糊带过的部分，所以值得直说。Dory 1.0 4B 与 G​emma 4 12B 之间并没有在同一测试框架下得出的结果。N​VIDIA 为 Dory 提供的基准测试表是将它与 Qwen3.5-4B、Qwen3.5-9B、G​emma 4 26B A4B 以及 Qwen3.6-35B-A3B 进行对比——它选用的是26B G​emma，而不是 12B，而且完全没有纳入 12B。G​oogle 公布的 12B 数据来自另一套测试框架、另一组对比对象，出自一份早数月发布、覆盖不同任务组合的文档。

把两张卡上的数字并排放到一起，就能得到一张看似权威、实则毫无意义的表格，因为两个评测框架之间两分的差距，并不等于两个模型之间两分的差距。所以诚实的说法是这样的：Dory 自己的卡片声称，在四个循环下具备大致 Qwen3.5-9B 级别的智能体行为，但在知识密集型基准测试上却落后于它自己的每一个对照项；而 Gemma 4 12B 的卡片则声称，在 Gemma 4 系列中拥有 256K 窗口的多模态配置以及经过指令微调的变体。这两个说法中无论哪一个能否经得起对方任务集的检验，都尚未得到测试。

在它们真正重叠的地方，以及重叠结束的地方

对真正决策而言，有四个维度至关重要，而它们指向不同的方向。

• 模态 —— Gemma 4 12B 支持文本、图像和音频。Dory 1.0 4B 只支持文本。这不是评测框架能够填补的基准差距；这是一种能力，一方拥有，另一方没有，而只要你的工作负载中任何环节出现截图、扫描页或语音片段，这场比较就已经结束了。

• 语言 — Dory 仅支持英语。Gemma 4 系列支持多语言，其 12B 模型卡包含多语言评估和语音结果，其中包括非英语翻译基准。生产环境中只要出现第二种语言，Dory 就会被排除。

• 背景 —— 两者都宣称 256K，而这是规格真正吻合的唯一一处。Dory 的卡片称，在随附的启动命令下，vLLM 中已验证 262,144 个位置；G​emma 4 12B 则声明 256K，并在混合注意力堆栈内使用 1024 token 的滑动窗口。G​emma 已有公开的长上下文评测；而对 Dory 而言，唯一的长上下文成绩行是 N​VIDIA 自己的，其测量使用了修正后的答案键和较旧的评判模型，卡片对此作了披露。

• 计算行为——这是 Dory 的不对称优势，与质量无关。Gemma 4 12B 是一种传统的稠密模型：深度固定，每个 token 的成本固定，要改变开销，要么扩展硬件，要么缩短上下文。Dory 的深度是一个运行时参数。当延迟是约束时，以单循环运行；当准确率是约束时，以四循环运行，而无需下载第二个检查点。NVIDIA 还提供了一种末循环 KV 缓存模式，旨在无论循环次数多少，都把缓存占用大致保持在一循环的水平；如果这一点成立，就消除了对循环架构的标准反对意见。这是卡片中最值得独立验证的一项声明。

• 许可 — Dory 采用 OpenMDW 1.1，G​emma 4 12B 采用 Apache 2.0。两者均允许商业使用。如果你的法律审查将 Apache 2.0 视为阻力最小的路径，那么 G​emma 从一开始就拥有一个与权重无关的优势。

运行它们：一个是例行操作，另一个是构建

G​emma 4 12B 是一个标准 L​lama 家族形态的下载。它采用 Transformers 格式，可在你已有的引擎上运行，而量化构建版本——QAT GGUF 和 w4a16 变体——自模型本身发布后不久就已公开。

Dory 1.0 4B 还没到那一步，卡片上也直白地这么说了。vLLM 支持在一个开放的拉取请求中处于“审核中”状态；在它合并之前，你得从那个分支安装 vLLM，并带上预编译内核标志，然后在服务时传入循环计数和 KV 缓存覆盖参数。llama.cpp 支持在第二个开放的拉取请求中，而 NVIDIA 固定的是某个特定提交，而非不断移动的 head——对于参考配置来说这是正确的做法，但仍意味着要从源码构建。在我们能核实的任何地方，Dory 都没有托管端点——无论是 NVIDIA 还是其他任何人——而且在撰写本文时，其全部四个仓库的下载计数仍然为零。相比之下，Gemma 4 12B 在过去一个月里被拉取超过一百万次，并且已经围绕它建立起了微调和量化生态。对大多数团队来说，这种成熟度差距比任何一张卡上的基准测试差异都要大。

双方的硬件具体信息都很有限。N​VIDIA 唯一公布的 Dory 速度数据，是在 DGX Spark 上的量化加速——具体取决于输入/输出组合，MXFP8 相较 BF16 为 1.69× 和 1.84×，NVFP4 为 2.17× 和 2.44×——而不是吞吐量数据。对于 G​emma 4 12B，对应的问题——给定上下文长度下的 VRAM——可以凭借一年的社区实测来回答，而不是从这张卡上回答。

说实话，在路由器介入的情况下

这两个模型我们都不提供，而如实说明这一点比暗示相反更有用。NVIDIA Nemotron Labs Dory 1.0 4B 不在 OrcaRouter 目录中，并且在任何地方都没有托管端点；具体来说，Gemma 4 12B 也不在目录中，尽管其规模更大的同系列模型 google/gemma-4-26b-a4b-it 和 google/gemma-4-31b-it 在目录中。

剩下的就是这一决策在实际层面的形态。如果你要在必须自托管的 4B 和可以租用的 12B 之间做选择，自托管这一侧要背上 GPU 账单和运维负担，而租用那一侧则不必，唯一能诚实核算这笔账的办法，就是让两者都跑一遍你自己的任务集。对于这项实验中托管的那一半，OrcaRouter 很有用：一个 API 密钥就能访问我们确实提供的开放权重 Google 模型，按供应商标价、零加价，因此做这个对比不需要第二份合同或第二个 SDK。自动故障转移能覆盖你自己的 GPU 池在基准测试进行到一半时饱和的那段时间，而路由 DSL 能让自托管调用和托管调用共用同一个端点，所以切换阵营只是改配置，而不是重写。这一切都不会告诉你哪个模型胜出。它只是消除了不去弄清楚的借口。

那么，是哪一个？

如果你的任务仅涉及文本、仅限英语且需要长上下文，尤其是如果它具有智能体特性——工具调用、多步工作流、结构化输出——那么 Dory 1.0 4B 是更值得押注的选择，也是其架构能提供 12B 无法提供的东西的那个：一个计算调节旋钮。押注时要睁大眼睛看清成熟度差距、两个未合并的拉取请求、完全缺乏独立评估，以及它自己的模型卡在 GPQA 和 HLE 上把它排在每个对比对象之后这一事实。

如果你的任务涉及图像、声音、第二语言，或是下个月内就要交付的截止期限，那么 Gemma 4 12B 就是答案，而这场比较从来都毫无悬念。它是一个更大、更昂贵、能力更强的模型，背后有完整的生态支撑，前面也没有任何构建步骤挡路。

值得盯住的不是某个基准测试的数字——而是 vLLM 和 llama.cpp 的拉取请求能否合入。等到 Dory 能从正式发布的二进制文件、而不是某个分支加载的那一天，这场对比中自托管的那一侧就不再是一个项目，而变成了一处配置改动。在那之前，诚实的结论是：这两个模型里，一个是产品，另一个是一夜之间冒出来的代码仓库；你究竟想要哪一个，完全取决于你是在交付上线，还是在做测试。

这一切都并非假设：像本次这样的发布背后那些有据可查的 AI 故障与智能体事件，均收录于 OrcaRouter AI 事件档案库中，其中每条记录都附有自己的来源、严重程度、置信度评级和存疑标记。