NVIDIA Nemotron Labs Dory 1.0 4B 对决 Qwen 3.8：开放权重的 4B 迎战阿里巴巴的三层产品线

将 NVIDIA Nemotron Labs Dory 1.0 4B 与“Qwen 3.8”相比较，并不是一场对位——而是一种特定且富有启发性的错位。Qwen 3.8 并不是单一模型；在开放权重这一端，它是 Qwen3.8-27B，一个采用 Apache 2.0 许可、拥有 256K 上下文窗口的 27B 稠密多模态模型，而在其之上还有 Qwen3.8-Flash和Qwen3.8-Max，两者规模都更大，且都仅通过阿里巴巴的 API 提供服务。Dory 则是 NVIDIA 的一个单一 4B、纯文本、仅英文的检查点，以 OpenMDW 1.1 许可在 Hugging Face 上发布了四种量化版本，其模型卡上标注着“GA (10/16/2026)”，背后却没有任何发布公告。所以真正的问题并不是 4B 能否打败 27B，而是：一个由你自己托管的弹性深度 4B，是否是一种更便宜的方式，让你达到那些否则就得从 Qwen3.8 系列租用算力才能完成的任务层级——而与决策最相关的两个事实是：Qwen3.8-27B 是开放权重的，因此两个模型都能在你自己的硬件上运行；以及 Dory 自己的模型卡完全没有与任何 Qwen3.8 模型进行基准对比。

实际上在比较什么？

从 Qwen 这一侧开始，因为“Qwen 3.8”把三个不同的命题压缩成了一个。

Qwen3.8-27B是阿里巴巴的开放权重稠密视觉语言模型，Apache 2.0 许可，270 亿参数、64 层、5,120 隐藏维度，原生支持 262,144 token 上下文，模型卡称可扩展至 100 万。它接受文本、图像和视频并返回文本，在 16 个重复块中采用混合的门控 DeltaNet 与门控注意力结构，以 Transformers 格式发布，并支持 vLLM、SGLang 和 TokenSpeed。在众多智能体和视觉结果中，它在 LiveCodeBench v6 上报告 90.3，在 GPQA Diamond 上 89.2，在 IFBench 上 79.5，在 Terminal-Bench 2.1 上 73.0。它自 2026 年 8 月中旬起公开，已被拉取数百万次。

Qwen3.8-Flash和Qwen3.8-Max都是托管层级。Flash 是成本优化的多模态模型，上下文长度达百万 token；Max 是阿里巴巴的旗舰模型，同样是百万 token，定位对标最强大的专有模型。两者均未开放权重。你可以通过 API 访问它们。

NVIDIA Nemotron Labs Dory 1.0 4B是 4B 模型。稠密、循环、潜在递归——一个 8 层输入块、一个按可变次数应用的 20 层递归块、一个 8 层输出块——并采用混合交错的滑动窗口注意力与全注意力。文本输入、文本输出，仅支持英语，256K 上下文。在 6 万亿 token 上预训练，其中前约 4.5 万亿 token 原生采用 NVFP4，另有 3000 亿 token 的上下文扩展，随后进行 SFT 和多环境 GRPO。我们无法核实存在任何可供其使用的托管端点。

有一点需要说清楚，因为它很容易让人混淆：N​VIDIA 以 BF16、MXFP8、NVFP4 和 Q5_K_M GGUF 格式发布 Dory。规范的仓库 ID 是 MXFP8 那个，但模型卡中的基准测试是在 BF16 上测得的。MXFP8 是对同一组权重的量化，而不是另一个模型。

规格对比

• 参数 — Dory 1.0 4B 是 4B 稠密模型，通过重复应用一个循环块，使得在四次循环下每 token 的有效计算量超过了参数量。Qwen3.8-27B 是 27B 稠密模型，带有一个视觉塔。它们不属于同一量级，并且只有其中一个适合小内存部署。

• 模态——Qwen3.8-27B 既能处理图像和视频，也能处理文本。Dory 只能处理文本。任何包含图像的工作负载都到此为止。

• 背景——两者都宣称 256K。Qwen3.8-27B 的规格卡称其原生支持 262,144 个位置，并可扩展至约一百万；Dory 的规格卡则称最高 256K，其中 262,144 已在随附启动命令下的 vLLM 中通过验证。Qwen3.8-Flash 与 Max 均直接达到一百万 token。

• 许可证 — Qwen3.8-27B 采用 Apache 2.0，Dory 采用 OpenMDW 1.1。两者均对商业使用友好；Apache 2.0 是更为人熟知的条款文本。

• 语言 —— Qwen3.8-27B 在血脉上就是多语言的；Dory 仅支持英语，其预训练数据中混合了 43 种编程语言。

• 计算行为——这是唯一一行 Dory 拥有 Qwen3.8-27B 在结构上无法提供的东西。Dory 的深度是一个服务时参数：一个循环用于低延迟，两个作为 NVIDIA 推荐的默认值，四个则在智能体准确率更为重要时使用，全部来自同一个检查点，并带有末循环 KV 缓存模式，旨在无论循环次数如何，都将缓存内存保持在大致单循环的规模。Qwen3.8-27B 的深度固定不变；其可调手段是量化与硬件。

• 格式——Dory 提供四种量化版本，其中包括适用于 llama.cpp 的 GGUF。Qwen3.8-27B 有一个单独的 FP8 仓库，以及一个非常庞大的量化版本与微调模型衍生生态，而这就是数百万次下载量能为你带来的东西。

NVIDIA 自家表格所回避的那个基准测试问题

这里有一个令人不安的细节。N​VIDIA 为 Dory 提供的基准测试表将其与 Qwen3.5-4B、Qwen3.5-9B、Gemma 4 26B A4B 和 Qwen3.6-35B-A3B 进行对比。它使用了前两代 Q​wen，从未选取 Qwen3.8。对于一个 4B 模型来说，这是一个站得住脚的选择——Qwen3.8-27B 的规模几乎是它的七倍——但这意味着该厂商完全没有发布过与当前 Q​wen 代际的正面对比，无论哪个方向都没有。而 A​libaba 的 Qwen3.8-27B 模型卡则是与专有前沿模型进行基准对比，而不是与 4B 模型对比。

Dory 的模型卡真正公布的、与其更早的对照模型相比的内容，坦诚地指出了循环在哪里能带来回报。把它三种循环设置对照 Qwen3.5-4B 和 Qwen3.5-9B 横向看一遍：

• SWE-bench Verified — 50.3 / 59.5 / 61.8，对比 54.7 和 61.0。在四轮循环时，Dory 在这一行上名义上击败了 9B Q​wen。

• Terminal-Bench 2.1 — 12.5 / 18.1 / 22.2，对比 15 和 24。它输给了这两者，包括 4B。

• τ³-bench（银行业）—— 11.6 / 12.89 / 14.69，对比 5.03 和 7.22。Dory 的得分是 4B Qwen 的两倍多，约为 9B 的两倍。

• GPQA Diamond，无工具 — 69.19 / 72.41 / 72.16，对比 77.71 和 80.93。它两项都不敌。

• IFBench — 74.29 / 77.94 / 79 对比 53.83 和 59。在指令遵循方面取得了大幅领先。

• AA-LCR —— 相较于 64.7 和 68.4，取得 63 / 71 / 73。长上下文检索在采用循环后大幅提升，并最终领先。

• AA-Omniscience — 相较 15.02 和 18.05，分别为 10.03 / 10.08 / 10.03。存储的知识几乎不随循环次数变化，这是表格其余部分均能通过的健全性检查。

这些数字中的每一个都是 N​VIDIA 的，是在 N​VIDIA 的测试框架上测得的，并且披露了重复次数——SciCode 八次，AA-LCR 十六次，有几个基准恰好只跑了一次——而该卡片将其仿照 Artificial Analysis 形式的分数标注为“内部估计”，这些估计可能与官方数值有出入。这些内容没有一项被复现。

现在把 Qwen3.8-27B 的卡片放在它旁边。其报告的 GPQA Diamond 89.2、IFBench 79.5 和 Terminal-Bench 2.1 73.0 均高于 Dory 在同一组基准上的最佳成绩，而这正是一个规模大七倍、训练流程新两代的模型所应有的表现。在任何知识或推理基准上，4B 都不可能击败一个执行良好的 27B，Dory 也没有这样声称。Dory 声称的是另一回事：在 4B 规模下达到约 9B 级别的智能体行为，并且你可以自行选择在这一规模上投入多少算力。

部署：差距并不小，而且这与质量无关

Qwen3.8-27B 是一次常规的开放权重发布。采用 Transformers 格式，官方列明支持 vLLM、SGLang 和 TokenSpeed，还有一个 FP8 版本，并且自八月以来，其生态已产出远超一千个量化版本和数百个微调版本。如果你的技术栈能运行现代开放权重模型，那它就能运行这一个，唯一真正的限制是内存——BF16 下的 27B 稠密模型并非小机器能跑的模型，但量化变体正是为此而生。

Dory 则相反。vLLM 支持正在一个公开的拉取请求中接受审查；在它合并之前，NVIDIA 建议你从该分支安装 vLLM，并带上预编译内核标志，然后通过覆盖项启动，以配置循环次数和 KV 缓存模式。llama.cpp 支持在第二个公开的拉取请求中，包含一个固定提交以及 ARM64 macOS 构建说明。在我们能够验证的任何地方，Dory 都没有托管端点，而且在撰写本文时，所有四个仓库的下载计数器均为零。已公布的速度数据仅限于 DGX Spark 上的量化加速——MXFP8 相比 BF16 为 1.69× 和 1.84×，NVFP4 为 2.17× 和 2.44×，具体取决于输入/输出长度组合——而非吞吐量。

相比之下，Dory 卡片中的内存说法是唯一可能让这种不便变得合理的工程设计。标准的循环递归会为每次循环存储单独的 KV 缓存，因此内存会随每次迭代而增长。Dory 的 last-loop KV 缓存模式为每个循环注意力层保留一个缓存，并在每次迭代时将其覆盖，从而在任意循环次数下都把占用维持在约等于单次循环的规模，而 N​VIDIA 表示其准确率与逐循环模式保持接近。如果这一点在别人的测量下也成立，那么一个拥有 256K 窗口和四次循环的 4B 模型，就能在原本无法承受的硬件上变得实用。N​VIDIA 之外还没有人验证过。

OrcaRouter 在这项对比中实际处于什么位置

这是一次难得的、能够具体说明的对比，因为双方在这里的处境并不相同。Qwen 这一方在我们的目录中：qwen/qwen3.8-27b 是 自托管在 OrcaRouter 自有基础设施上，而 qwen/qwen3.8-flash 和 qwen/qwen3.8-max 可作为托管端点访问，全部通过一个 API 密钥、按提供商标价、0% 加价。NVIDIA 这一方则不是——NVIDIA Nemotron Labs Dory 1.0 4B 不在目录中，在我们能确认的任何地方都没有托管端点。

这种不对称实际上是真正有用的，而不是别扭的。主张小型自托管模型的论点是成本论点，而成本论点需要它所要反对的租用价格。Qwen3.8 的三个层级定价差异很大——27B 为每百万输入 token 0.33 美元、每百万输出 2.40 美元，Flash 为 0.15 美元和 0.47 美元，Max 为 2.00 美元和 6.00 美元——因此，“4B 能否替代它”这个问题的诚实版本会有三个不同答案，取决于你当前实际使用的是哪个层级。一个 OrcaRouter 密钥即可访问全部三个层级，因此为这个问题定价不需要三个账户。由于我们按提供商列表价格原样传递、不加价，Qwen 的价格变动当天就会在这里生效。而当你确实选定某个层级时，跨提供商的自动故障转移和路由 DSL——让你可以把多个模型组合在单次调用之后——意味着从托管的 Qwen 切换到自托管的 Dory，或者反过来，只是在同一个调用点改配置，而不是重构。我们不提供 Dory；我们是一种低成本方式，用来衡量它将要替代的东西。

裁决

如果你的工作负载是多模态、多语言或知识密集型的——任何模型需要“知道”而非“做事”的场景——Qwen3.8-27B 就是开放权重的答案，而且这场比较毫无悬念。它的体量是后者的七倍，代际上新两代，背后有庞大的衍生生态，能在已经支持它的引擎上运行，而且它自己的模型卡所声称的 GPQA 或指令基准成绩，是 Dory 无法望其项背的。如果你压根不想自己托管一个 27B，那就改租 Flash 或 Max。

Dory 1.0 4B 押注的是另一个维度。只有三件事对你而言成立时，从分支构建的麻烦才值得：任务仅限文本且仅限英语；它是智能体式的，而非知识驱动的；并且你会真正用上算力旋钮——在负载下运行一个循环，在精度重要时运行四个，从一个检查点出发，无需第二次下载。它的模型卡声称，这一押注在 τ³-Bench 和 4B 的指令遵循上能获得回报，并且它充分披露了这些数字是如何得出的，足以让你恰当地对它们打折扣。

能给出定论的，是那场没人做过的测试：Dory 1.0 4B 对 Qwen3.8-27B，在同一套测试框架上，相同量化条件下，针对智能体任务集进行比较。NVIDIA 的表格完全跳过了当前的 Qwen 世代，而 Alibaba 的表格则没有向下看一个权重级别。在有人公布这项对比之前，准确的判断是：这两个模型中，一个是经过验证、有支持、被广泛部署的 27B，另一个是横空出世、里面装着一个有趣想法的 4B 仓库——而唯一能说这个想法是否值得投入构建的人，就是你，在你的任务集上。

这一切都并非假设：像本次这样的发布背后那些有据可查的 AI 故障与智能体事件，均收录于 OrcaRouter AI 事件档案库中，其中每条记录都附有自己的来源、严重程度、置信度评级和存疑标记。