Nemotron 3.5 Bolt E4B 4GB 对比 LFM2.5 2.6B Base：已成型的角色对阵一张白纸

这些模型中的一个，在你下载它之后就能立刻进行对话。另一个则必须经过训练才能进行对话。这就是 NVIDIA-Nemotron-3.5-Bolt-E4B-4GB与Liquid AI LFM2.5-2.6B-Base 之间的全部比较，而由此衍生出的所有规格表差异都是次要的。

NVIDIA 的模型是一个经过后训练的对话式小型语言模型：包含聊天模板、推理开关、工具调用行为、人格调优，以及一张 21 行的基准测试表。Liquid 的模型则是一个预训练基础检查点，明确为重度微调而发布，其模型卡上没有聊天行为，也没有基准测试分数。把二者归入同一个“小型开放模型”类别是一种范畴错误，会让人下载错误的模型产物，并断定该模型很差。

先给简短答案，再谈细节

• 本月你需要一个可用的语音、角色或设备助手——就用 NVIDIA-Nemotron-3.5-Bolt-E4B-4GB。它是一个已完成的行为，而非原始素材。

• 你拥有领域数据、训练预算，并且要求模型归你所有——那就选择 LFM2.5-2.6B-Base。它的微调成本更低，并具有 128K 上下文窗口。

• 你想要 Liquid 打造的最好的小型对话模型——单靠这两者中的任何一个都不够。你需要经过后训练的 LFM2.5-2.6B，然后再决定是以 Base 还是 agent checkpoint 作为你的起点。

• 你想看一场正面交锋的基准测试——并不存在这样的测试。Base 卡没有公布任何跑分，也没有第三方让这两者正面对比过。任何文章若基于某项共同的基准测试宣布胜者，那这项基准测试就是它自己编造出来的。

为什么这种不匹配才是关键所在

Liquid AI 分三部分发布了 LFM2.5-2.6B 系列：预训练的 Base、后训练的智能体检查点，以及推测解码草稿模型。Base 是该流程的第一阶段，而不是一款产品。其模型卡称它“仅推荐用于需要大量微调的任务”——语言或领域专用助手、专有数据训练及类似工作。基础检查点能很好地预测下一个 token，却从未被教过如何回答问题、遵循指令，或按 schema 发出工具调用。

NVIDIA 的 E4B 处于该流程的另一端。它基于 Gemma-4-E4B-it 起步，而后者已经过指令微调，随后 NVIDIA 又通过基于可验证奖励和人类反馈的强化学习对其进行了后训练。模型卡记录了奖励域、推理/非推理批次比例，以及为控制冗长而施加的长度惩罚。无论如何，这个模型都已被塑造成适合某项工作的样子。

所以，公平的问题不是“哪个更聪明”，而是“你需要购买流水线中的哪个阶段”。

规格，逐维度说明

• 参数——NVIDIA-Nemotron-3.5-Bolt-E4B-4GB 基于 Gemma-4-E4B 架构，总参数为 8B，有效参数为 4B；LFM2.5-2.6B-Base 为 2.69B 稠密参数，采用 30 层混合堆叠结构，由 22 个双门控短卷积块和 8 个分组查询注意力块组成。

• 上下文窗口 — Bolt 的输入为 64K token，输出为 64K token；LFM base 为 131,072 token。

• 模态 — 两者均为文本输入、文本输出。二者均不接受图像或音频。

• 词表——LFM2.5-2.6B-Base 为 128,000 个 token；NVIDIA 未公布 E4B 的词表大小，E4B 沿用了 Gemma 的分词器。

• 预训练——LFM 基础模型使用 34 万亿 token，并设有一个将上下文扩展至 128K 的中期训练阶段。NVIDIA 未公布 E4B 的预训练 token 数量，因为它没有对该模型进行预训练；它是对 Gemma 进行后训练的。

• 后训练——针对 Bolt 开展了大量 RLVR 与人类反馈工作，涵盖显式推理和对话模式。LFM 基础模型则完全没有这些，这是有意为之的设计。

• 已发布的精度版本 — Bolt 的 Q4_K_M GGUF 为 6.18GB，BF16 safetensors 为 15.88GB；LFM 基础版为单个 5.39GB 的 BF16 safetensors 文件，而该系列其他版本还提供单独的 GGUF、ONNX 和 MLX 转换文件。

• 许可证 — NVIDIA 的贡献采用 OpenMDW-1.1，其中 Gemma 4 组件采用 Apache 2.0；Liquid 的模型采用 LFM Open License 1.0，这是一项包含商业条款的自定义许可证。

• 语言 — E4B 元数据中有 34 种，其中七种被指定为主要后训练语言；LFM 基础版为 16 种。

• 发布 — E4B 于 2026 年 10 月 23 日发布；LFM2.5-2.6B 系列于 2026 年 8 月 4 日发布。

参数差距确实存在，但并不会转化为人们预期的下载差距。2.69B 的 Base 是 5.39GB 的 BF16 下载；“4GB”的 E4B 则是 6.18GB 的四位下载。在稠密混合架构和稀疏有效参数架构之间比较参数数量，得到的信息不如比较磁盘上的字节数。

每张卡片实际发布的内容

这就是不对称性变得可衡量的地方。

NVIDIA 提供了 21 行基准测试结果、四个对比模型，以及一个单独的 Q4_K_M 列。这些分数由厂商在 NeMo-Gym 下运行得出，并明确标注为可能与其他厂商自报的数据不同。它们涵盖角色保持、指令层级、工具调用时机、事实依据、长上下文检索以及智能体任务完成。

Liquid 的 Base 模型卡完全没有随附任何基准测试表。这并不是遗漏；基座检查点本就如此。围绕 LFM2.5-2.6B 流传的那些数字——IFBench 59.17、ToolSandbox 77.83、BFCLv4 56.88、LiveCodeBench v6 59.41、AIME25 51.87——属于经过后训练的智能体检查点，而非 Base，并且这些数字由厂商报告。Artificial Analysis 将 LFM2.5-2.6B 的智能指数（Intelligence Index）列为 8，并标记为估计值、独立评估尚待进行；它根本没有 Bolt E4B 的页面。

所以，诚实的评分表是：一个模型有一张庞大且未经审计的供应商表格，另一个没有表格，并且有一个独立估计附在其所属模型家族中不同的检查点上。两栏都不支持直接比较。

内存和速度是在不同的星球上衡量的。

两家供应商都公布了延迟数据，但这些数据并不可比。请把它们理解为针对不同配置的各自声明。

• 加装一块 RTX 5070 12GB——3.5 至 4.3GB 显存，548 至 1,238ms 的首 token 延迟，每秒 106.2 至 133.4 个 token，由 NVIDIA 使用 llama.cpp 和 CUDA 在 batch 1 下测得。

• 加装一块 Jetson Orin Nano 8GB——显存占用 4.2 至 4.9GB，首个 token 耗时 5.8 至 6.3 秒，每秒生成 13.0 至 15.5 个 token。适合嵌入式场景，但达不到对话级的响应速度。

• M5 Max 上的 LFM2.5-2.6B —— 约每秒 220 个 token，为厂商报告的 CPU 解码速度。

• LFM2.5-2.6B 在手机级芯片上——据厂商报告，约每秒 30 个 token。

M5 Max 的数据并不是 GPU 对比，Orin Nano 的数据也不是笔记本电脑对比；而且两家厂商都没有以能让你直接对齐的形式公布提示长度、批大小或量化设置。唯一可以直接核对的数字就在磁盘上：Bolt 的 Q4_K_M 为 6.18GB，而 LFM base 的 BF16 为 5.39GB。

许可证：两者均为开源，但都不是 Apache 许可证

NVIDIA 的模型采用 OpenMDW-1.1，外加针对 Gemma 4 的 Apache 2.0 组件。OpenMDW 属于宽松型许可，允许商业使用，但未获得 OSI 批准；而由于对 Gemma 的继承关系，Apache 条款会随部分技术栈一同适用。NVIDIA 的模型卡指出，该模型已可用于商业或非商业用途。

Liquid 的 LFM Open License 1.0 是一项自定义许可证，对商业使用设有 1000 万美元年收入门槛。它并非 Apache 或 MIT 许可证，且 Base 卡片指向一个 LICENSE 文件，而不是概述条款。对于研究项目，这很少会带来影响；对于需要法律审查的产品，这是首先要读的内容。

实际区别不在于“开放还是封闭”。两者都可下载，且都在各自条款范围内允许商业使用。区别在于你的法律顾问需要厘清哪些条款，以及你要交付的模型内部是否夹带了第二家供应商的许可证。

微调账单，才是真正的决定

如果你选择 LFM 基础模型，下载只是最便宜的一环。你买到的是 2.69B 参数的原生预训练能力，然后还要花钱教会它一项工作：数据收集、清洗、监督微调、评估，以及随之而来的迭代循环。Liquid 的卖点在于，34 万亿 token 和 128K 上下文让这个起点足够强大，值得投入这番功夫。

如果你选择 Bolt E4B，你购买的是以 NVIDIA 的后训练作为起点。BF16 构建版本为 15.88GB，NVIDIA 发布了两种用于调整它的配方：在 8× H100 80GB 上使用 FSDP2 和学习率 1e-5 进行全参数训练，或在 2× H100 80GB 上使用 LoRA，维度为 16、alpha 为 32、学习率为 2e-4。两种配方都会冻结视觉和音频塔，这提醒我们：尽管 Bolt 发布版仅支持文本，Gemma 4 E4B 基础模型仍具备多模态能力。

这比 2.69B LFM 基座的微调门槛更高，但行为构建工作要轻得多。E4B 已经具备人格设定、指令层级和工具调用时机；你是在适配一个可用的模型，而不是从头创建一个。

如果你是在打造一款产品，而不是一个模型

默认应该采用训练完成的检查点。语音助手、NPC、自助终端界面或设备智能体在上线首日就需要具备行为表现，而这两者中只有 E4B 具备任何行为表现。其弱点已有记录且具体明确：Tau2-Bench 为 55.10，而 Qwen3.5 4B 为 75.06；RULER 为 86.99，而后者为 95.15；LongBench v2 为 50.50，而后者为 59.93。它是一个能调用工具的对话模型，而不是一个能进行规划的智能体。

只有当模型本身就是产品时，购买 LFM base 才是正确的选择：比如一个针对通用模型处理欠佳的语言或词汇领域的专用助手，一个基于专有数据微调的模型，或者一个你打算自己掌控的研究基线。在这种情况下，缺少对话行为反而是一项优势，因为你无需为那些终将被你覆盖掉的行为付费。

还有第三种情况，两张模型卡都没有涉及：你想在自己的任务上比较它们。要用留出评估集和相同的解码设置来做，而不是用厂商的表格。E4B 的模型卡建议在两种思考模式下都使用 temperature 1.0 和 top_p 0.95；Liquid 则公布了其后训练检查点自己的设置。匹配这些设置是公平测试的最低要求，但即便如此，你也是在拿后训练模型和基础模型作比较，这根本不是公平的测试。

本地模型的边界在哪里，技术栈的其余部分又从哪里开始

无论你选择哪个检查点，它都会置身于一个应用中，而该应用还需要它无法运行的模型。2.6B 基础模型或 4B 对话模型负责本地反射层；它无法处理 200K token 的文档、高难度编程任务，或需要前沿模型判断的请求。通过一个 API 路由这些请求——200+ 模型，按提供商标价 0% 加价，自动故障转移可跨提供商进行——既让本地模型作为快速路径，又无需为慢路径再签一份合同。

哪个下载是你的？

如果你现在就需要一个小巧、能对话、能遵循指令并调用工具的模型，并且能接受 6.18GB 的下载量以及文档中已说明的长上下文和智能体方面的短板，那就选 E4B。如果你正要启动一个微调项目，希望拥有 128K 窗口和 16 语言的 tokenizer，并且有数据和算力来教会这个模型它该做的事，那就选 LFM2.5-2.6B-Base。

要避免的错误是：下载 Base，像对聊天机器人那样向它发送提示，然后得出结论说 Liquid 的 2.6B 比 NVIDIA 的 4B 更差。它并不更差。它只是处在流水线中更早的阶段。真正能解决这一系列问题的比较，是 Bolt E4B 与经过后训练的 LFM2.5-2.6B 之间的对比，而目前还没有人公布那次运行结果。