Nanbeige4.3-33B 对决 Nemotron 3.5 Lightning 30B A3B：教师对阵执行者

NVIDIA Nemotron 3.5 Lightning 30B A3B 的输出速度达到每秒 294.9 个 token。Nanbeige4.3-33B 则根本没有公布任何速度数据，因为没有任何服务商提供它。这两个事实比任何一行基准测试成绩都更能说明这场对比的实质：一个模型是经过精心设计、配有明确价格表、且具备单 GPU 部署方案的吞吐型产品；另一个则是拥有 330 亿参数的稠密权重检查点，于 2026 年 10 月 24 日带着一份模型卡片出现在 Hugging Face 上，却没有任何推理服务商。它们都算“30B 级别”。但它们并不是同一类东西。

这个比较值得做，因为两者都在向同一类买家推销——那些正在构建长时间运行的智能体、需要执行大量小步骤而又不想承担前沿模型费用的人。NVIDIA 的答案是降低每个 token 的计算开销。Nanbeige 的答案是打造一个更大、更稠密的模型，让它在智能体任务上足够出色，以至于你只需要一个。这是两种相反的押注，而各自的证据在性质上非常不同。

36亿活跃参数就是全部理由

Nemotron 3.5 Lightning 30B A3B 是一个混合专家（MoE）模型：总参数量 316 亿，每个 token 激活 36 亿参数，分布于 52 层之中——23 层 Mamba-2、23 层 MoE 和 6 层注意力。它可路由至 128 个专家，并激活其中的 6 个外加一个共享专家。正是这一架构，使其在托管端点上能够维持约每秒 295 个 token 的速度，而稠密的 30B 级模型通常只能落在 40–80 的区间。

Nanbeige4.3-33B 采用稠密架构。全部 331 亿参数都会在每个 token 上激活。它没有路由机制，没有专家稀疏化，也没有 Mamba 层。这是有意为之的选择，后果也很明确：每个 token 的计算开销大约是 Lightning 的九倍，而且模型在生成任何内容之前，需要常驻约 66GB 的 BF16 权重——或者在 4-bit 下约 20GB。

抽象而言，两种设计没有优劣之分。稠密模型通常更易于微调，质量也更可预测；稀疏模型在相同名义规模下通常服务成本更低、速度更快。问题在于你的工作负载欠缺的是哪一种特性。

每个模型的构建目的

NVIDIA 将 Lightning 定位为常驻智能体的执行层——这个模型从更大的系统接收计划，并以低成本持续完成工具调用、文件编辑和浏览器操作。它从 Nemotron 3 Ultra 蒸馏而来，出厂即内置多令牌预测投机解码（已融入预训练），并配有独立的草稿模型；它针对执行框架而非聊天场景进行了调优。其公布的基准测试集也体现了这一点：PinchBench 85.4–86，BrowseComp 36.8–36.97，SWE-bench Verified 51.56–52.8，Terminal-Bench 2.1 约为 23.5–24.6。

Nanbeige4.3-33B 被定位为教师模型。模型卡直接说明了这一点：它是 4.3 系列的旗舰，旨在蒸馏到更小的模型中，例如尚未发布的 Nanbeige4.3-3B。其基准测试集也相应广泛——20 行涵盖智能体编程、智能体协作和推理——而其推荐设置正是自行运行模型时会采用的设置：张量并行大小为 4、XML 工具调用、多轮工具使用时 preserve_thinking=true。

一个是别人系统中的组件。另一个是某个模型家族的源模型。这种定位解释了下面几乎所有的差异。

他们唯一共有的那项基准是无法剔除的

两款显卡都报告了 Terminal-Bench 2.1 的结果。Nanbeige 声称达到 80.9。NVIDIA 公布的 Lightning 区间大致为 23.5–24.6。表面上看，这是 56 分的差距，而这个数字将会被引用。

不应该如此。Terminal-Bench 衡量的是智能体脚手架中的模型，而两家厂商描述的并不是同一个脚手架。Nanbeige 的卡片称，其 Terminal-Bench 2.1 运行使用的是 Terminus 2，并且其模型是在最高思考强度下、使用共享测试框架和共享推理参数进行评估的。NVIDIA 的数字来自其内部测试框架，该公司自己也指出，这可能与第三方结果有所不同。一个获得有利循环的稠密 33B 模型，和一个获得标准循环的 3.6B 激活参数模型，可能相差数十分，而这并不意味任何一方模型被歪曲。

诚实的解读应是方向性的，而非数值性的：Nanbeige 声称其智能体终端性能明显更强，但这一说法在双方都未得到验证。同样的谨慎也适用于 GPQA Diamond（Nanbeige 89.5，Lightning 74.3–75.6）和 AA-LCR（Nanbeige 84.0，Lightning 52.0–60.3）。这些差距足够大，以至于其中一部分差异很可能来自真实能力，而非评测框架。但“很可能”这句话承担了很重的分量，而且还没有第三方进行过这项对比。

没有歧义的是独立评测覆盖。Artificial Analysis 在其 Intelligence Index 上给 Nemotron 3.5 Lightning 打了 13 分，却没有收录 Nanbeige4.3-33B。一个模型有第三方意见，另一个只有一张模型卡。这种不对称本身就是信息，而且不利于那张表格喊得更响的厂商。

纸面上 1M 上下文，实际 256K

Artificial Analysis 将 Lightning 的上下文窗口列为 100 万个 token。NVIDIA 自己的文档则更为保守：在单块 H100 上，262,144 个 token 是实际上限。这两个数字都可能是真的——架构支持更长的窗口，但你实际很可能运行它的硬件并不能轻松容纳它。

Nanbeige4.3-33B 的 524,288 tokens 是稠密模型上经过训练的窗口，KV cache 的显存开销也随之按此规模增长。该卡型的 vLLM 与 SGLang 配置采用 0.8 的 GPU 显存利用率和 4 的张量并行度，这说明其预期部署方式并非单卡。

对于智能体工作来说，实际差别不在于最大值，而更在于长时间运行后什么还能撑得住。Lightning 的混合 Mamba 层旨在在长序列上保持较低的状态成本；Nanbeige 的稠密注意力则不是。NVIDIA 还公布了 AA-LCR 为 52.0–60.3，这是一项长上下文推理得分，而 Nanbeige 在同一基准上公布了 84.0。如果你相信这两张表，Nanbeige 的长上下文推理要强得多。如果你只相信独立执行的那一张，那么能核对的只有 Lightning 的。

托管一个稠密 33B 模型的算术

这才是比较从质量转向利用率的节点。

Lightning 在托管端点上的标价为每百万输入 token 0.06 美元、每百万输出 token 0.20 美元。Nanbeige 没有价目表，因为没有提供商部署它；价目表上明确写明了这一点。要使用它，你需要租用或购买 GPU，并遵循四路张量并行方案。

假设纯粹为了算账，四块 H100 级 GPU 每块每小时 2 美元——整个节点每小时 8 美元。要与 Lightning 的输出价格打平，该节点每小时必须产出 4000 万个输出 token，约合持续每秒 11,100 个 token。四块 GPU 上的稠密 33B 模型做不到这一点。即使 GPU 成本降至十分之一，盈亏平衡吞吐量仍超过持续每秒一千个 token，这已是严肃的推理服务运营，而不是副业实验。

结论并不是 Nanbeige 贵。而是：只有在利用率非常高且非常稳定时，自托管一个稠密 33B 模型才能胜过每百万 token 收费 0.20 美元的执行器——或者当工作负载无法离开你的基础设施时，但那种情况下比较的从来就不是价格。在突发性或低用量场景下，托管式稀疏模型在质量进入讨论之前，就已经在成本上大幅胜出。

路由器在双模型系统中的定位

NVIDIA 所推崇的这种架构——一个前沿规划器加一个廉价的执行器——其实也正是大多数智能体团队最终会采用的架构。而它同样也是路由层天生适配的形态：我们的路由 DSL 可将多个模型组合为一次调用，从而让规划器与执行器共处同一个端点之后，同时自动故障转移能避免一个吃力的执行器演变成卡死的智能体。

我们目前不提供 Nemotron 3.5 Lightning 30B A3B 或 Nanbeige4.3-33B，因此这并不是在推介二者中任何一个的可用性。这是一则关于集成成本最终落在何处的说明。如果你将 Nanbeige 自托管为规划器，并调用托管模型作为执行器，那么这种分工值得表达为路由规则，而不是在应用中硬编码——因为你想在每个位置上使用的模型，会在本季度结束前就发生变化。

延迟预算比排行榜更能决定成败。

• 如果单个智能体步骤必须在不到一秒内返回：选择 Lightning。以每秒 295 个 token 的速度，300 个 token 的回答大约一秒内就能返回；而在你自己的硬件上运行稠密的 33B 模型则做不到，并且 Nanbeige 没有可供基准对比的托管选项。

• 如果该步骤是工作流开头的一轮长推理：Nanbeige 在 GPQA、AA-LCR 以及智能体相关项目上声称的领先幅度支持这一点——但须受上述评测框架注意事项的约束。

• 如果作品是中文的：Nanbeige。Lightning 已发布的语言为英语、西班牙语、法语、德语、意大利语和日语。

• 如果作品是多语言欧洲语言版本：Lightning。Nanbeige 仅列出英语和中文。

• 如果你没有 GPU，也对它们毫无兴趣：那么 Lightning 无疑是最佳选择。

• 如果数据无法离开你的网络：Nanbeige，那么成本比较就变成一项基础设施决策，而不是 token 价格决策。

悬而未决的问题

Nanbeige4.3-33B 才问世两天，还没有任何服务方案。正是这一事实，为本文标注了时间点。如果有服务商将其接入——而模型卡中声称目前尚无任何服务商接入，这一点正是值得关注的——那么这一对比在成本端就会彻底改变，因为一个以有竞争力的每 token 价格提供的托管式稠密 33B 模型，将彻底动摇在质量敏感型工作中采用更小稀疏执行器的整个论点。

在此之前，站得住脚的立场空间很窄。Nemotron 3.5 Lightning 30B A3B 是你今天就能部署的模型，有公开定价、独立评分，且每 token 的计算量约少九倍。Nanbeige4.3-33B 则是纸面上听起来能力更强的模型，拥有 512K 原生窗口和无人复现的自报智能体数据。如果你的智能体受延迟和成本约束，选择已经明确。如果受质量约束且你自有硬件，这个选择值得测试——而测试尚未进行。