MiniMax M3.1 Flash 现已在 Tenstorrent 上提供服务：428B 模型在 Tensix 上运行究竟证明了什么

Tenstorrent 的新闻室文章标注日期为 2026 年 10 月 22 日，其中说的内容比“又一家云厂商加入了又一个模型”更狭窄，也更有趣：MiniMax M3.1 Flash，这个由 MiniMax 于 10 月 19 日发布的 4280 亿参数混合专家模型，现已在 Tenstorrent Cloud 上提供，其预填充和解码均在 Blackhole Galaxy 系统上运行。在该服务路径中，任何地方都没有出现 NVIDIA 加速器。Tenstorrent 公布的是架构、量化方案和调优方法。它没有公布的是其自身服务的任何吞吐量数字、延迟数字或价格。这一缺失才是决定这究竟是一个里程碑还是一次演示的关键，而且它比该模型的基准测试表更值得关注。

Tenstorrent 是由 Jim Keller 领导的芯片公司，其主张一直是：AI 计算不应是单一厂商的堆栈。在这次发布之前，这一主张在高端领域存在可信度问题：最大的开放模型通常运行在 NVIDIA 硬件上，AMD 作为替代方案，而其他一切则局限于小模型实验。一个 428B 参数的混合专家模型在 Tensix 芯片上运行预填充和解码，通过以太网而非专有互连网络连接，这是首个以这种规模和这种新近程度的模型让这一主张站得住脚的部署。

Tenstorrent 公开披露了什么

公告对服务拓扑说得很具体，却对买家会用到的每一个数字都含糊其辞。先说具体内容，因为它们是真正的工程主张：

• 可用性 — Tenstorrent Cloud 提供，位于 console.tenstorrent.com，可通过 Playground 使用，或连接到智能体框架使用。

• 服务路径 — 预填充和解码均在 Tenstorrent Galaxy 上运行，具体来说是在由 Blackhole Galaxies 组成的超级集群上。系统按工作负载划分：一个资源池处理预填充，另一个处理解码，工作负载通过直接的低延迟以太网链路在两者之间传输。

• 内存 — 每个 Blackhole Galaxy 配备 1 TB DRAM 以及数 TB SSD。权重和 KV 缓存常驻 DRAM；SSD 存放已卸载的 KV 缓存，因此智能体回合返回时无需重新计算其上下文。

• 量化 — MLP 权重、注意力权重、索引器和共享专家以 MXFP8 存储；路由专家以 NVFP4 存储。

• 模型形态——稀疏注意力取代了全局分组查询注意力，且稠密 MLP 仅出现在前三层。

• 调优数据——Tenstorrent 表示，它基于 SemiAnalysis 的 AgentX 编码智能体轨迹对部署进行了调优，这意味着真实的多轮会话和子智能体扇出，而非简短的聊天基准测试。

• 报价 — 每百万输入 token 0.15 美元，每百万输出 token 0.60 美元，每百万缓存输入 0.015 美元。这是 MiniMax 的标价；公告没有单独公布 Tenstorrent 的价格，因此目前还无法判断在这里运行该模型比在 GPU 上运行成本更高还是更低。

部署之所以存在，是因为权重已经发布。

这项公告背后最重要的事实不是芯片本身，而是 MiniMax 竟然公开了权重。这个 252.4 GB 的仓库于 10 月 23 日上线 Hugging Face，而 Tenstorrent 的帖子日期早了一天——这表明该移植是在合作伙伴访问权限下完成的，而不是基于公开下载。第三方硬件厂商无法移植它无法获取的模型，而 Tenstorrent 也不是服务自家检查点的 MiniMax 子公司。这正是开放权重创造硬件竞争的机制：每个发布检查点的实验室都会把每个有意愿的芯片厂商变成潜在的发行渠道，而每个支持该模型的芯片厂商反过来又让该实验室的权重更有价值。

同样的逻辑解释了为什么闭源前沿模型不会出现在这类公告中。供应商可以向你出租某个专有模型的 API 端点，但它无法把权重量化成自己的数值格式，无法针对模型的稀疏注意力模式调优自己的内核，也无法在自己的互连架构上拆分预填充和解码。移植本身就是产品，而移植需要文件。

这也是为什么这个故事里的“open”需要拆成两件不同的事。Tenstorrent 的软件栈——TT-Metalium、TT-NN、TT-Forge——是开源的，而正是这一点让第三方移植变得可行。MiniMax 的权重是开放权重，不是开源。该仓库包含 48 个 safetensors 分片，共 252.4 GB，另加一个 2.3 GB 的推测解码草稿模型，并以 MiniMax Community Licence 发布；该许可证要求商业部署时署名，且年收入超过 2000 万美元后需事先获得书面许可。两种不同的“开放”，同一条服务路径。

为什么服务路径被分成两部分

Prefill/decode 分离并非 Tenstorrent 独有的怪癖；它是应对 Agent 工作负载所产生问题的一种标准解法。Prefill 受计算能力约束，每个提示词只发生一次。Decode 受内存带宽约束，每生成一个 token 就发生一次，并贯穿答案生成的整个过程。如果把它们放在同一批设备上，一个在流中途到达的长提示词就会从每个正在解码的用户那里抢走算力，而这正是让 Agent 产品显得像出了故障一样的卡顿。

将池分开可以让每一侧都按其自身的瓶颈进行资源配置。Tenstorrent 的描述明确指出，预填充池利用高设备间带宽将提示分散到许多芯片上，而解码池将权重和 KV 缓存保留在 DRAM 中并独立运行各步骤。以太网链路承担交接。

以太网是个有趣的选择。专有的纵向扩展互连架构能提供比商用以太网更高的带宽和更低的延迟，而NVIDIA在AI算力中的地位，部分就建立在拥有这种互连架构之上。Tenstorrent则认为，对于这类工作负载——一个拥有230亿活跃参数的混合专家模型，且其服务方案已经把预填充与解码分开——标准以太网已经足够好，而且横向扩展的经济性更优，因为这种互连不会成为第二重锁定。这是一个看似合理的论点，但尚未得到证实。只有当有人公布多节点部署下每美元每秒token数时，它才能被证实，而目前还没有人这样做。

让 428B 装进一个机架的算术

该模型总共有 4280 亿个参数，每个 token 激活其中 230 亿个。在 BF16 下，这大约是 856 GB，尚未计入任何 KV cache 或运行时开销。单个 Blackhole Galaxy 由 32 个 Blackhole ASIC 组成，每个配有 32 GB GDDR6——即 Tenstorrent 所称的 1 TB——因此一份 BF16 副本将消耗系统约 84% 的内存，并为其他所有内容留下大约 170 GB。在 100 万 token 的上下文下，且 KV cache 必须在多个 agent 轮次中持续存在，这并不是一个宽裕的余量。

已发布的下载包为 252.4 GB。正是这个数字让部署得以装下：它在 Galaxy 的 1 TB 中留出约 770 GB 用于 KV 缓存、激活值和投机解码草稿模型。混合精度方案正是腾出这部分空间的关键——共享权重和注意力侧权重使用 MXFP8，路由专家使用 NVFP4，后者构成参数的大部分，且只被稀疏访问。仅限于前三层的稀疏注意力和密集 MLP 进一步减少了访存流量。

这套算术是我们自己做的，基于公开数字，并非 Tenstorrent 的说法。但它解释了这项公告的形态：这次移植之所以可信，恰恰是因为 4 位路由专家把 856 GB 的模型变成一个 252 GB 的文件，能够装进 32 芯片系统，并为长上下文留出空间。

Tenstorrent 未发布的内容

由 Tenstorrent 托管的端点没有每秒 token 数、首 token 时间、并发数，也没有价格。对于一个整个前提都是非 NVIDIA 芯片能够服务前沿级开源模型的部署来说，这四个数字本可以一锤定音。它们缺席并不能证明该部署很慢，只能证明这份公告是能力声明，而非基准测试结果，读者应据此看待它。

MiniMax M3.1 Flash 唯一公开的速度数据描述的是另一种部署。MiniMax 声称，在其自家 API 上，输出速度中位数超过每秒 170 个 token，峰值超过每秒 200 个。Artificial Analysis 测量的是托管 API，而不是 Tenstorrent 的硬件，记录到每秒 95.6 个输出 token，首 token 时间为 1.48 秒。这大约意味着，厂商声称的数字与在另一条服务路径上独立测得的结果之间存在 1.8 倍的差距；这也很好地提醒我们，“模型很快”和“这个部署很快”是两种不同的说法。

Artificial Analysis 确实确认的关于该模型的信息，比头条基准成绩更契合 Tenstorrent 的使用场景。M3.1 Flash 在 Intelligence Index 上得分 43，每完成一项 index 任务成本约 $0.22，在 AA-Omniscience 上得分 16，幻觉率为 93%——这意味着当它不知道答案时，通常会给出错误答案，而不是拒绝回答。Tenstorrent 基于智能体轨迹对这一部署进行了调优。智能体循环正是自信的错误答案代价最高的地方，因为下一次工具调用会继承这些错误。快速、低成本的服务路径并不能解决这个问题；反而会让验证层更加重要。

如果你要购买推理服务，该怎么处理这个

对于大多数团队来说，本周务实的答案是“去测试它，不要迁移到它”。Playground 是判断该模型的行为是否适合你的工作负载的最便宜方式，而 Tenstorrent 的 agent-harness 集成是值得探究的有趣部分，因为该部署针对的是多轮工具使用，而不是单次聊天。带上你自己的轨迹数据。SemiAnalysis AgentX 的调优说明告诉你 Tenstorrent 优化了什么；它并不会告诉你你的提示词会表现如何。

在两个条件具备之前，不要把它放到生产路径上：Tenstorrent 公布的吞吐量和延迟数据，以及你自己对每项任务质量的测量。第一个只需向厂商确认就能得到答案，第二个只有你能回答。

关于 OrcaRouter 在其中所处的位置，需诚实说明一点。M3.1 Flash 不在我们的目录中；其中的 MiniMax 产品线到 MiniMax-M3 为止。因此，如今调用这款新模型的方式是 Tenstorrent Cloud 和 MiniMax 自有 API，而我们并不属于其中。OrcaRouter 能提供的是你在下定决心前所需的对比基线：MiniMax-M3 以及 200 多款其他模型都可通过单一密钥访问，按供应商标价、0% 加价，因此“这款新模型是否真的比我当前运行的模型更适合我的工作负载”这个问题，无需第二份合同和第二个计费关系即可回答。

那个能把港口变成价格的数字

Tenstorrent 展示了一个真实成果：一个 428B 的混合专家模型，被量化为混合 4/8 位格式，在 Tensix 芯片上通过以太网运行推理的两个部分，并配有开源工具和已公开的调优方法。这是一项可移植性证明，而且是在这一模型规模上首个不经过 CUDA 的证明。

它尚未证明这次移植比 GPU 路线更便宜、更快或更可靠。Galaxy 是一个 6U、32-ASIC、约 23-PFLOPS 的 BlockFP8 系统，于 2026 年 4 月全面上市时标价为 110,000 美元，这还不包括本次部署所使用的超级集群网络。该硬件运行此模型时，每百万 token 的成本是否优于 H100 或 MI300X 集群，正是整个商业问题的核心，而公告对此只字未提。

因此，接下来要关注的并不是同一硬件上的另一个模型。而是 Tenstorrent 给出的每秒 token 数和价目表，随后是第二家芯片厂商完成同样的移植。当这些出现时，开放权重才会真正转化为硬件竞争。在那之前，准确的描述是：一次可信的架构演示，而商业的那一半仍未公布。