Nemotron 3.5 Super 对比 GPT-6 Astra：扫描一页在两者上各需多少成本

OpenAI GPT-6 Astra按 token 为扫描文档计费。NVIDIA Nemotron 3.5 Super则按 GPU 秒数计费。这一句话就构成了本次对比的绝大部分内容，而这句话，两家厂商谁都不会写进标题里。NVIDIA 这款模型——总参数 1200 亿，每个 token 激活 120 亿，在 Mamba-2 与 Transformer 混合专家架构之上搭载 C-RADIO 视觉编码器，由 NVIDIA 于 2026 年 10 月 15 日以 NVIDIA Nemotron 3.5 Super VL 之名发布，并在 Ollama 上以 code>nemotron-3.5-super/code> 的形式上线——问世之时，其权重在 Hugging Face 上已经"三天高龄"了，上传日期为 10 月 12 日。Astra 是 OpenAI 的旗舰：上下文长度 1,050,000 token，最大输出 128,000 token，支持文本、图像与文件输入，推理始终开启，标价为每百万输入 token 10 美元、每百万输出 token 50 美元。

这两个价格点在输入上相差十倍，在输出上相差二十五倍，这让那个有趣的问题变得异常尖锐。对于文档工作而言，固定成本的开源检查点在多大的处理量下才能胜过 $10/$50 的按量计费——而当这份文档是一页像素而不是一页文本时，答案会改变吗？

他们不是在争夺同一个请求

首先要弄清楚的是，在可衡量的能力方面，这两个模型并不接近，而且两家厂商也都没有相反的说法。

• 第三方指数 — 在给这些模型评分的榜单上，Astra 约为 54.7 分，其中编码指数为 76.9，智能体指数为 51.6，这些数据均记录在 Astra 自己的目录条目中 · NVIDIA 的检查点约为 26。这大约是二十八分的差距，而两家厂商都没有对此进行测量。

• 上下文 — Astra 为 1,050,000 个 token，输出上限为 128,000 个 token · NVIDIA 检查点为 1,000,000，完全未公布输出上限，且模型卡本身也附带说明：可用数值取决于内存和运行时设置。

• 推理能力接口 — Astra 始终开启推理，其推理强度可从 low 到 max 配置，通过 Responses API 返回完整的推理轨迹，并支持结构化输出、种子以及将网络搜索作为工具 · 而 NVIDIA 的 checkpoint 具有可通过聊天模板切换的开关式思考模式，以及一份已发布的基准测试表，但没有任何形式的托管接口。

• 输入模态——Astra 支持文本、图像和文件 · NVIDIA 检查点支持文本、图像和视频，每个已发布的标签都配有 1.6 GiB 的视觉投影器，因此图像路径始终可用。

• 价格 — 每百万 token 输入 $10、输出 $50，提示词超过 272,000 token 时适用长上下文档位 · 无价格，因为该模型没有端点。

• 你将获得——一个 API 密钥和一份追踪记录 · 四张 H100 或两张 GB200 的 BF16 算力，或一张 96 GB 显卡以支持 82.3 GiB 的默认 4-bit 标签，采用 OpenMDW-1.1 许可，允许商业使用。

读完那份清单，结论显而易见：如果工作需要前沿推理，Astra 就是那个模型，比较到此为止。让这一页值得一读的，是工作不需要前沿推理的情形，因为正是在这里，一个带视觉编码器的 1200 亿参数检查点才开始具备经济意义——而它在真实文档流水线中所占的份额，比任何人愿意承认的都要大。

页面成本核算，用真实数字完成

举一个具体的任务：一个扫描发票语料库，每天 200 页，每页以足够高的分辨率渲染，以便能读出手写参考编号。假设编码器处理完后每页有 1,500 个图像 token，再加上 300 个 token 的提示词和 150 个 token 的答案。这大约相当于每页输入 1,950 个 token、输出 150 个 token，或者说整个语料库每天输入 390,000 个 token、输出 30,000 个 token。

按照 Astra 公布的费率，输入 $3.90、输出 $1.50——每天大约 $5.40，每月约 $160，而这活儿一块 GPU 一晚上就能干完。把分辨率调高、加一个会触发超过 272,000 个提示词 token 的长上下文档位的页面，或者因为第一遍跑错了而把语料库跑两遍，这个数字就只会朝一个方向走。问题的形态就是这样：在 $10 和 $50 的价位下，按页计费的工作流就有一张按页计费的账单，而账单恰好随着那个不断增长的东西一起增长——页数。

在 NVIDIA 检查点上，同样这个任务的成本，只是 230,000 个 token 所消耗的那一小部分 GPU 小时；按每天 200 页来算，相对于电费不过是个四舍五入的零头。账单是那张卡，而无论你处理 200 页还是 20,000 页，卡都是同一张。

在任何人急着去买硬件之前，有三点提醒。第一，在低用量下这就不再成立——一张 96 GB 的卡加上运行它的电力，每月成本比大多数团队花在 token 上的钱还多，而如果一天只处理 200 页，你很可能是亏的。第二，大多数人实际会跑的 NVIDIA 量化版本 q4_K_M，在任何地方都没有公开的评测；NVIDIA 那张卡上的每一个数字都是 BF16 或 NVFP4，所以你部署的那个版本准确率如何是未知的。第三，Astra 的输出可测量地更好，而在一个误读参考编号就是真实成本的语料上，更高的准确率可以压倒任何量级的价格差异。

在Astra不仅更优、而且在结构上更胜一筹之处

把 Astra 说成是更便宜选项的昂贵替代品，是不诚实的。在多个维度上，它属于另一类产品，而这种差异并不在于分数。

Astra 通过 Responses API 返回完整的推理轨迹。对于一条必须为决策提供依据的流水线——无论是理赔裁定、合规解读还是医疗编码流程——可审计的轨迹不是一项功能，而是硬性要求。NVIDIA 检查点有一个可在聊天模板中开关的思考模式，却完全没有托管的轨迹接口，这意味着你得自己构建审计层。

Astra 支持使用模式和随机种子的结构化输出。在文档抽取流水线中，当输出必须符合某种记录布局时，一个能够被约束到某个模式的模型，比那种需要先验证、再重试的模型集成成本更低；而重试成本在它显现出来之前，一直是隐形的。

而 Astra 的工具接口是一方产品：函数调用、response_format、seed，以及作为工具的网页搜索。NVIDIA 这个 checkpoint 的部署方案复用了并非由它编写的工具调用解析器——厂商自家的 vLLM 方案将 code>qwen3_coder/code> 指定为工具调用解析器，并指定 code>nemotron_v3/code> 为推理解析器。这是一个合理的工程选择，但同时也意味着工具调用接口是借用而来的，并非为这个模型专门设计，在被信任之前还需要经过测试。

vLLM 配置方案还会告诉你厂商期望一个副本承担什么：张量并行度为 4、GPU 显存利用率 0.85、最多 32 个并发序列、每个提示一个图像和一个视频、视频剪枝率为 0.5，以及通过内置 MTP 头进行投机解码并使用三个投机 token。在四 GPU 节点上，32 个并发序列就是上限。而 Astra 的上限则是一个速率限制。

NVIDIA 默认设置中的陷阱，以及它为何会首先出现在文档中

这个细节将决定第一个实验能否成功，而只有阅读运行时注册表而不是厂商的帖子，才能看到它。

该卡片指定了两种采样配置：文本任务使用 temperature 1.0 搭配 top_p 0.95，视觉任务使用 temperature 0.6 搭配 top_p 0.95。Ollama manifest 中实际发布的默认值是那组文本参数——code>{"temperature": 1.0, "top_p": 0.95}/code> 加上 code>draft_num_predict: 3/code>。因此，大多数人碰到这个视觉模型时所处的配置，是针对它并非视觉的那一半调校的。如果你拿到它做的第一件事，就是把它指向一张扫描发票，而结果松散或出现幻觉，那么采样设置便是第一个该改的地方——在你就这个 checkpoint 下任何结论之前。

部署前还值得了解的两个仓库细节。九个已发布标签中有四个——code>:latest/code>、code>:120b/code>、code>:120b-a12b/code> 和 code>:120b-a12b-q4_K_M/code>——都解析到同一个 q4_K_M 层，因此按完整参数量命名的那个标签并不是你实际收到的文件。而且版本门槛是强制执行的，而不是建议性的：配置中声明了 code>requires: 0.40.5/code>，所以在较旧的运行时上，拉取根本不会成功。

将这一点与此对比中另一侧的那种失效模式相比——即端点发生了变更。Astra 是一项托管服务，其行为是可以被修改的。这两种风险都不是回避该模型的理由。它们是不同的风险，需要不同的缓解措施——一侧是配置变更，另一侧是回退路由。

路由答案，两者相同

Astra 已在我们的密钥上可用。OrcaRouter 按提供商的标价原样路由，不收取任何按 token 计的加价——每百万 token 10 美元和 50 美元，长上下文档位的定价与 OpenAI 完全一致，并且在我们这边当天即上线，而不是等到你下次续约。如果你要问的是 Astra 能否处理你的文档工作负载，那只需一把密钥、无需采购流程，而答案只花几美元的 token。

NVIDIA 检查点不在我们的密钥范围内。我们路由了略多于两百个模型，其中没有 NVIDIA Nemotron 条目，因此本文并不是在声称你可以在这里调用它。如果你需要那个检查点，NVIDIA 自己的构建和分发渠道以及本地拉取就是你的途径。

在这个决策中，平台真正的作用是排序。先把语料跑在 Astra 上，衡量两件事：每页成本，以及每页错误率。这两个数字合在一起决定一切。如果错误率低且量也低，就永远留在按量计费上——你永远无法用硬件打败它。如果错误率低而量很高，你就有了一套站得住脚的理由：把普通页面迁移到你自有的一张卡上，同时把难处理的页面继续留在按量计费上。如果错误率高，NVIDIA 那边再大的价格优势也无济于事，因为一张读错的发票，其算术问题不在于 token。

无论你选哪条路，都要把新模型放在一个回退机制之后。一个权重已经四天没更新的检查点，就有四天的运维历史是空白的，而针对这一点最省钱的保险，就是在同一次调用里再挂一个模型。把一个四天前的开源模型后面接上 Astra 是合理的做法；同时，Astra 也是本页大多数读者会得出结论、认为自己无需替换的那个模型。