Nemotron 3.5 Bolt E4B 4GB 与 Nemotron 3.5 Bolt 74B-A9B 24GB：名称相同，机器却截然相反

NVIDIA 在相隔八天内发布了两款名为 Bolt 的模型。NVIDIA-Nemotron-3.5-Bolt-E4B-4GB于 2026 年 10 月 23 日推出：这是一个纯文本、总参数量 8B 的对话模型，由 Gemma-4-E4B-it 经后训练得到。NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB——大多数人提到 Nemotron 3.5 Bolt 时所指的正是这个模型——于 10 月 15 日推出：这是一个总参数量 74B、激活参数量 9B 的多模态智能体，每个专家权重被压缩至两比特。

它们共享一个徽章、一份许可证和一个发布窗口。它们不共享父架构、模态、上下文窗口、基准测试套件或任务。把“Bolt”解读为一条规模阶梯，正是这项对比旨在防止的错误。

一个是 Gemma 的衍生模型。另一个是经过压缩的 120B 智能体。

这一血统几乎解释了其他所有事情。

E4B 最初是 Gemma-4-E4B-it，即 Google 的指令微调小型模型，NVIDIA 通过 NeMo-RL 和 NeMo-Gym，使用基于可验证奖励与人类反馈的强化学习对其进行了后训练。其架构属于 Gemma：总参数 8B、有效参数 4B，纯文本输入输出路径，以及 64K 上下文窗口。NVIDIA 的贡献在于行为，而非骨干网络。

74B 以 Nemotron 3.5 Super VL 120B-A12B 为起点，后者是 NVIDIA 自家的多模态母模型。NVIDIA 在 24GB 内存预算下运行了一种名为 Star Elastic 的路由器引导架构搜索，并产出了一个 740 亿参数的混合模型，每个 token 激活 90 亿参数，在 LatentMoE 设计中融合了 Mamba-2 与 Transformer 层，并配备 C-RADIO v4-H 视觉编码器。它接受文本、图像和视频输入，并可处理 256K token 的上下文。

简单来说：E4B 是 NVIDIA 调优的对话模型，74B 是 NVIDIA 压缩的智能体模型。“Bolt”这个名称描述的是部署目标——每 GB 的智能密度——而非共享架构。

规格，并排对比

• 总参数与激活参数——E4B 为 8B 总参数、4B 有效参数；74B 为 74B 总参数、9B 激活参数。

• 架构 — 小模型采用 Gemma-4-E4B；大模型采用 Mamba-2 加 Transformer 混合 LatentMoE，并从 Super VL 父模型进行 Star Elastic 压缩。

• 模态 — E4B 为文本输入、文本输出；74B 为文本、图像和视频输入，文本输出。

• 上下文窗口 — E4B 的输入为 64K tokens，输出为 64K tokens；74B 最高可达 256K tokens。

• 精度 — E4B 随附的 GGUF 采用 Q4_K_M；74B 的 IQ2 约为每个专家权重 2.0625 位，部分 Mamba 层使用 NVFP4，嵌入使用 Q8_0。

• 已发布权重——E4B 为 6.18GB 的 Q4_K_M 和 15.88GB 的 BF16；74B 为 23.75GB 的 GGUF 权重加视觉投影器、24.12GB 可直接用于 vLLM 的 safetensors，以及 BF16 下的 149.8GB。

• 许可证 — 两者均采用 OpenMDW-1.1，其中 E4B 技术栈中的 Gemma 4 组件采用 Apache 2.0。

• 发布日期——E4B 为 2026 年 10 月 23 日；74B 为 2026 年 10 月 15 日。

• 运行时 — E4B 使用 llama.cpp，尽管附带了快速启动命令，卡片仍将该配方标记为“待定”；74B 使用 vLLM，其参考配方通过提交哈希锁定了一个 nightly 容器。

有一个元数据陷阱值得在它引发采购失误之前指出来。74B 仓库上的 Hugging Face 文件小组件显示“22B 参数”，而模型卡标明总参数为 74B、激活参数为 9B。模型卡是对的：22B 是过时的侧边栏字段，不是第三个变体；任何依据该小组件而不是模型卡来估算硬件需求的人，都会在相反方向上错得很离谱。

基准表不共享任何一行

这是比较两者之前最重要的一点，也是大多数报道会略过的一点。

NVIDIA 在 GDPVal-AA-V2、Terminal-Bench 2.1、Tau3 Banking、HLE、AA-Omniscience、SciCode、GPQA Diamond、AA-LCR、PinchBench、MCP-Atlas、BrowseComp 和 WebArena 上评估了 74B。它在 MultiChallenge、RoleBench、RoleMRC、EQ-Bench v3、Brevity、BFCL-v3、When2Call、ToolSandbox、Tau2-Bench、IHEval、AgentIF、StructEval-T、IFBench、InverseIFEval、RULER、LongMemEval、LongBench v2、SysBench、GaRAGe、RAGTruth 和 RelyToolBench 上评估了 E4B。

完全没有重叠。两张表中没有任何一行同时出现。这两套测试套件甚至使用了不同版本的智能体基准测试——E4B 使用 Tau2，74B 使用 Tau3 Banking——因此看起来最接近的一对也不具可比性。

这意味着任何“74B 比 E4B 好 X 分”这类说法都是捏造的。NVIDIA 并未发布通用的评测框架，也没有任何第三方运行过这样的框架。这些表格真正能支持的，是一个关于设计意图的陈述：

• 74B 是在看似工作的任务上评估的——终端使用、浏览、科学编程、研究生水平问题、长上下文推理。其已公布的最强成绩项是 BrowseComp 66.75、Terminal-Bench 2.1 50.98、GPQA Diamond 86.43 和 AA-LCR 64.06。

• E4B 是在类似对话的任务上进行评估的——人设保持、指令层级、知道何时调用工具、依据工具输出作答。其最强项是 IHEval 84.79、RoleBench 67.05、RelyToolBench 63.16 和 When2Call 63.36。

两组数据均为厂商报告且未经复现。74B 的产品卡上还有一个值得指出的额外问题：NVIDIA 将该模型描述为 PinchBench 上同类中排名最高的开放模型，但其自己的表格显示 Qwen3.6-35B-A3B 为 88.07，而 Bolt 为 87.82。这是 0.25 分的差距，这一说法并不能完全经得起其自家脚注的检验。

速度宣称，附带硬件

吞吐量是两张卡都公布了数字的唯一一处，可即便如此，两者仍然无法对齐比较。

• 在 RTX 5070 12GB 上运行 E4B——每秒 106.2 至 133.4 个 token，生成首个 token 耗时 548 至 1,238ms，占用 3.5 至 4.3GB 显存，使用 llama.cpp 和 CUDA 在批大小为 1 时测得。

• 在 Jetson Orin Nano 8GB 上的 E4B：每秒 13.0 至 15.5 个 token，首个 token 耗时 5.8 至 6.3 秒。同一个模型，运行在“4GB”宣传真正所指的硬件上。

• 在 RTX Spark 上运行 74B 模型——在 AIPerf SPEED-Bench-Coding 上达到每秒 83.99 个 token，并挂载 LiLiCorr 草稿模型，每步使用七个推测 token。

74B 这个数字假设有一个单独的 1.13B 草稿模型检查点、一项特定的基准测试，并且所用硬件与两次 E4B 运行中的任何一次都不同。E4B 这个数字则假设不使用草稿模型。把 133 和 84 相比较并得出小模型更快的结论，在技术上成立，在实践中却毫无意义：一个是运行在桌面 GPU 上、有效参数为 40 亿的模型，另一个是运行在另一台机器上、激活参数为 90 亿且外挂了推测解码器的模型。

这些数字真正确定的是这种权衡的形态。E4B 是为首 token 时间而构建的；74B 是为持续的智能体工作而构建的，在这种场景下每秒 84 个 token 已经足够。Orin Nano 这一行则是警示：嵌入式硬件上的 4GB 模型并不会自动成为实时对话者。

内存：4GB 和 24GB 是包络，不是文件

两个名称都使用内存目标，而且这两个数字都不是下载量。

• E4B——一个 6.18GB 的 Q4_K_M GGUF 文件。NVIDIA 在其自家的 RTX 硬件 batch-1 运行测试中测得 3.1 至 4.3GB 的显存占用。该显卡并未发布 4GB 的文件。

• 74B — 22.02GB 的 GGUF 权重，外加一个独立的 1.73GB 视觉投影器，总计 23.75GB；而在可直接用于 vLLM 的 safetensors 构建中则为 24.12GB。正是 2.0625 位专家量化，才使其能够控制在 24GB 以内。

• BF16 构建版本——E4B 为 15.88GB，74B 分布在 63 个分片中，共 149.8GB。全精度变体用于后训练，而非部署，74B 的模型卡已明确说明这一点。

在部署精度下，存储差距约为 4:1；在全精度下约为 9:1。显存差距小于参数差距，因为 74B 的压缩代价体现在比特上，而不是体积上。

模态与上下文比参数数量更具决定性

64K 文本窗口与 256K 多模态窗口，并不是同一款产品只是限制不同而已。

74B 可以查看图像或视频，并据此采取行动。其规格说明规定输入为 RGB JPEG 或 PNG，MP4 视频最长两分钟，并建议在 1080p 下每秒一帧或在 720p 下每秒两帧。它可以读取截图、图表、表单或摄像头画面，然后根据所看到的内容调用工具。正是这种能力使它成为用于浏览和桌面工作的智能体。

E4B 无法“看见”。它接收文本并返回文本，而且其 64K 窗口在检索方面明确弱于同类模型：RULER 为 86.99，而 Qwen3.5 4B 为 95.15；LongBench v2 为 50.50，而后者为 59.93。如果你的应用需要让长文档或截图保持在视野中，那么无论 E4B 的人设得分有多好，它都是错误的模型。

每一个是给谁的

E4B 面向接口层。交互角色、语音助手、嵌入式设备代理、需要选择脚本并开口说话的机器人，以及任何要求模型在成本低于工作站的硬件上于几百毫秒内作答的应用。NVIDIA 的演示让这一意图变得具体：一台运行在 Jetson Orin Nano 上的 Reachy Mini 机器人使用 E4B 选择动画脚本，同时由单独的视觉模型负责感知；还有一个铁匠 NPC，它会验证付款、查找配方、收集材料并交付物品。

74B 面向工作层。它用于始终在线的个人智能体，可浏览网页、编写代码、分析数据、监控后台任务并调用 API。它可运行在 RTX Spark、DGX Spark、RTX PRO 工作站，以及内存充足的 GeForce RTX 显卡上，并被设计为在 24GB 预算内与其他应用程序并存。它的基准测试画像——BrowseComp、Terminal-Bench、GPQA、AA-LCR——是一个能够完成任务、而非仅仅维持对话的模型所具备的画像。

两者不能互相替代。想要打造可信 NPC 的游戏工作室，并不需要 74B 的多模态智能体；而一个需要读取网页、执行终端命令的智能体平台，也用不了纯文本的 4B 对话模型。

双模型家族对部署意味着什么

有趣的架构结果是，NVIDIA 提供的是一个产品组合，而不是一条阶梯。E4B 负责反射层，74B 负责本地工作层，Super VL 120B-A12B 负责更繁重的多模态场景。这代表着三种不同的内存预算和三种不同的任务，而它们全都归属于同一个许可家族。

大多数应用仍将需要一个无法下载的第四层：用于超出本地硬件能力的请求的前沿模型，或用于本地模型所缺模态的第二家供应商。将这些请求通过一个 API 路由——200+ 个模型，按提供商标价 0% 加价，自动故障转移（当提供商性能下降时）——可让本地 Bolt 保持为快速路径，而托管模型保持为例外。替代方案是为本地层级以上的每个模型分别进行集成、管理密钥和单独计费。

怎样才能解决家庭问题

一次运行。让两个 Bolts 在相同任务上用同一套评测框架跑一遍——一组对话任务、一组智能体任务、一组多模态任务——并公布结果行。NVIDIA 拥有检查点、评测技术栈和动机；它却选择发布两张分开的表格。

在此之前，站得住脚的解读是：无论从设计还是从证据来看，74B 都是能力更强的模型，前提是在 NVIDIA 选择测量的任务上。E4B 则更适合一大类交互场景：在这些场景中，24GB 的智能体显得荒谬，而 4GB 的对话模型恰如其分。盒子上的名字相同，里面的机器却不同。