Hy-Memory-30B-A3B 对比 Nemotron 3.5 Lightning 30B-A3B Base：相同的三个字母，两个不同的对象

Hy-Memory-30B-A3B与NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16的参数算术完全一致——总计 300 亿，激活 30 亿——但也正是在这里，这种相似性开始失去实际意义。Hunyuan 团队的模型于 2026 年 10 月 15 日开源，是一款成品：经过完整的后训练，可在 Mem0、MemOS 和 Hy-Memory 中执行记忆写入，还附带一套兼容 OpenAI 的服务方案，以及一张声称胜过 Claude Opus 5 的基准测试表。而 NVIDIA 的模型发布于 2026 年 8 月 11 日，它根本算不上产品。其名称中的“Base”一词是字面意思——没有应用任何监督微调、强化学习或蒸馏。它是预训练原料，公开出来是为了让你能在此基础上构建自己的后训练模型。这些数字无法告诉你的是，它在实际应用中是否出了任何问题：围绕这一类模型的已记录 AI 事件与智能体故障，都收录在 OrcaRouter AI Incident Archive中，每一条目都带有自己的信息来源、严重程度、置信度评级以及争议标记。

名称中带有相同数字的两个模型，其中一个是为使用而设计，另一个是为修改而设计。值得做的比较不是哪一个得分更高——它们没有在任何共同项目上受过评估，而且其中一个没有可供评估的指令遵循行为。值得做的比较在于证据：每个厂商公布了什么，其中有多少是你能亲自核实的，以及每个模型在真正做任何事之前对你提出了什么要求。

每个模型实际上是什么

Hy-Memory-30B-A3B 是一个常规稀疏 Transformer，但承担着一项不寻常的任务。其配置文件描述了 48 层，第一层是稠密前馈块，其余 47 层为混合专家，每个块有 128 个专家，采用 top-8 路由，外加一个共享专家；隐藏维度为 2,048，专家中间宽度为 768，32 个注意力头对应 4 个键值头，并带有查询-键归一化，上下文长度为 262,144 个位置。约 60.1 GB，分布在 51 个 BF16 分片中。它分两个阶段训练——先是记忆在线策略蒸馏，然后是归因记忆强化学习——而这项工作的全部要点，是替换记忆框架目前每一轮都要调用的通用模型。它使用 vLLM 0.31.0 提供服务，返回描述智能体应该记住什么的结构化 JSON 记录。

Nemotron 3.5 Lightning 30B-A3B Base 是一台混合式机器。NVIDIA 将 Mamba-2 状态空间块与专家混合层和注意力层交错排列，加入了在专门的持续预训练阶段训练的多 token 预测头，并在超过 20 万亿 token 上以 NVFP4 配方预训练了整个模型。这种混合架构的关键在于键值缓存：Mamba-2 块能阻止缓存像传统 Transformer 那样增长，这正是 NVIDIA 得以宣称上下文长度最高可达 100 万 token 的原因。它提供 BF16、NVFP4 和 FP8 版本，并有来自多家第三方的 GGUF 转换与量化版本。其许可证为 OpenMDW-1.1，覆盖权重、训练数据和配方——这比通常的模型许可证授予的权利更广泛。

参数数量上的巧合确实存在，但很浅层。两者每个token都激活约30亿参数；这是两个团队唯一以相同方式做出的设计决策。

那条横幅是页面上信息量最大的单个元素。NVIDIA 有意把它放在基础仓库的顶部：这个检查点并不是大多数人想要的那个，而厂商在你下载 300 亿个参数之前就把这一点说明白了。

决定一切的区别：后训练与预训练

基础检查点不会遵循指令。你向它提问，它会继续补全文本，因为预训练只教会了它这件事。它没有名副其实的聊天模板，没有工具调用行为，没有拒绝边界，也不知道对话是分轮次的。NVIDIA 的模型卡直接说明了这一点，而仓库顶部的“在找后训练模型？”横幅则为任何想要能与之对话的人指向了同级检查点。

基础检查点的用途在于你的后训练。在领域语料上进行持续预训练，或通过 NeMo RL、NeMo Gym 和 Megatron-LM 进行监督微调、强化学习和蒸馏——这正是 NVIDIA 点名并为之提供配方的工具链。如果你拥有数据优势，并且对模型应当如何表现有自己的看法，那么基础检查点就是让你能把这两者付诸行动的起点。如果你没有，它就只是一个 300 亿参数的镇纸。

Hy-Memory-30B-A3B 处在那个流水线的另一端。它已经完成了后训练，而且做了两遍，而它的全部价值主张就在于：你不必去做那部分工作——你直接采用卡片给你的 schema，把它指向你的 harness，它就会写入记忆。它比 Nemotron 狭窄得多，而且是以一种 Nemotron 刻意不去采用的方式完成的。

规格和包装，每个维度一行

• 总参数 / 活跃参数——两者均为 30B / ~3B。这是它们唯一一致的一项。

• 架构 — Hy-Memory-30B-A3B 是一种稀疏 Transformer，包含一个稠密块和 47 个 MoE 块，拥有 128 个专家、top-8 激活外加一个共享专家；Nemotron 3.5 Lightning 30B-A3B Base 则是 Mamba-2 混合架构，将状态空间层、MoE 层与注意力层交错排列，并配备多 token 预测（Multi-Token Prediction）头。

• 上下文 — 来自其配置的 Hy-Memory-30B-A3B 支持 262,144 个位置；Nemotron 最高支持 1M 个 token，而在单张 H100 上，文档记载的实际数值为 256K。

• 后训练——Hy-Memory-30B-A3B 的两个阶段（同策略蒸馏，然后归因强化学习）；Nemotron 基础检查点则完全没有。

• 权重占用 — Hy-Memory-30B-A3B 的 BF16 版本为 60.1 GB，且未发布其他精度版本，而 NVIDIA 提供了 BF16、NVFP4 和 FP8 构建，社区还提供了 GGUF。

• 许可证 — Apache 2.0 与 OpenMDW-1.1 对比，后者还涵盖训练数据和配方。

• 服务路径 —— vLLM 0.31.0 部署在兼容 OpenAI 的端点之后，为 Hy-Memory-30B-A3B 提供服务；对于 Nemotron，先做后训练，再提供服务。

• 托管端点——两个模型均未由托管推理提供商部署。两者都是自托管方案。

证据：NVIDIA 发布一份配方，Hunyuan 发布一张表格

这是两个版本之间最鲜明的差异，而且关键并不在于数字本身。

NVIDIA 以一种你可以真正照着做的方式公开了它的评估方法。Lightning 的基础卡说明，其准确率数据是在一套统一的测试框架下测得的——NeMo Gym 和 NeMo Evaluator SDK，它们封装了一个开源的 LM Evaluation Harness 容器，而 RULER 则通过 NeMo Skills 运行——随后它说出了厂商很少会说的话：这些数字可能与其他厂商自行上报的数据不同。它还附上了可复现配方。这些数字仍然是 NVIDIA 自己跑出来的，但测试框架被点名、已容器化且可下载，这意味着从“NVIDIA 测出了这个”到“我测出了这个”之间的距离，只是几个小时的工作量，而不是一个研究项目。

The Hy-Memory release is harder to check in two distinct ways. The evaluation design is sound on its own terms — it changes only the memory writer and holds the harness, prompts, retrieval configuration, answer model and judge fixed, which is the correct way to isolate a writer's contribution. But every benchmark in the main matrix runs on a fixed 20% subsample rather than the full set, and the headline margin is thin: 55.49 macro average against 54.62 for Claude Opus 5, a 0.87-point gap, with the MemOS harness decided by 0.01 of a point. The second obstacle is hardware. Reproducing NVIDIA's base numbers means loading a checkpoint whose quantised builds exist; reproducing Hy-Memory's means loading 60 GB of BF16 with no smaller alternative published.

两组数字都没有被独立复现过。区别在于，你有多大的可能是那个独立复现它们的人。

Put the two primary sources side by side and the contrast is stark: The Hy-Memory evaluation lives in a paper with an architecture description and a training method, and NVIDIA's lives in a model card with a named, downloadable harness. Both are the vendor marking its own homework. Only one of them hands you the ruler.

把路由器引入其中的两个不同理由

这两个模型都是自托管的，并且无论是 Hy-Memory-30B-A3B 还是 Nemotron 3.5 Lightning 30B-A3B Base，都不在 OrcaRouter 的目录中——我们两者都不托管。通往这两者的路径都是权重文件和你自己的 GPU。但路由这个问题在这场对比的两端有着不同的落点，值得仔细梳理，因为它正是这一选择在实践中的形态。

如果你选择 Nemotron 路线，你就是在对一个检查点进行后训练。这会产出一个只存在于你的基础设施上的模型，而自定义检查点的经典问题在于它无处可放：它不在任何目录中，因此每个想要使用它的应用都需要专门定制的管线，而且当它宕机时，每条回退路径都得手工搭建。路由器解决的正是这个问题——一个 API 密钥即可覆盖 200+ 个模型，并把你自己的端点与它们一起注册，并且自动故障转移会在它性能下降时触发。模型融合是这里另一个值得了解的功能：它在一次调用中让一组模型协同运行，这样你就能将刚完成后训练的模型与强大的基线进行比较，而无需为每一个都编写评测框架。

如果你走 Hy-Memory 这条路，写入器只是一个大得多的循环中的一次调用。记忆框架会调用写入器，然后调用答案模型来回读记忆库并作出回应——而第二次调用通常正是托管模型所在的位置。OrcaRouter 以 0% 加价透传提供商的标价，因此答案模型上的厂商降价当天就会在我们这边生效，而路由 DSL 会把自托管写入器和托管读取器组合成一次调用。你不需要让这两半都来自同一个地方，也不需要第二份合同来补上你缺少的那一半。

哪一个才是正确的起点？

如果你想要的是一下载当天就能做事的模型——具体来说，是在你完全不训练的情况下就能让智能体记忆变得更好的模型——那么这两款里只有 Hy-Memory-30B-A3B 能满足你。它也是你没法低成本测试的那一款，而且它最主打的宣传点，恰恰是优势余量最薄的那个。入场前先做好心理准备：在你学到任何东西之前，得先在硬件上花钱。

如果你想要的是一块可供你塑造的基座，Nemotron 3.5 Lightning 30B-A3B Base 是一项严肃的已发布成果：一种专为长上下文和快速推理而设计的混合架构，随附其训练配方以及你可以重新运行的评估工具。在你对它进行后训练之前，它不会回答任何问题，而这是它本来的约定，而非缺陷。

命名冲突会不断把这两者放进同一个句子。参数量也会一直对得上。但除此之外，它们再无共同之处；读者越早把“30B-A3B”与“同一类模型”区分开来，这种比较就越早变得有用。

下载量这个数字值得留在屏幕上。一个昨天发布的后训练专用模型，没有量化版本、没有托管端点，也没有任何宣传，结果是零下载、九个赞——而英伟达两个月前发布的预训练基础检查点，下载量却在数万之列。这一差距不是对质量的评判，它衡量的是每个团队让外界尝试这个东西的难度有多大。