一张生成的标题卡上写着“MiniMax M3.1 Flash + Inferact”,副标题是“一项 API 发布合作关系于 2026 年 10 月 21 日宣布,即该模型发布两天后”。三个信息标签分别写着“模型于 2026 年 10 月 19 日发布”“Inferact 构建并维护 vLLM”和“权重仍未发布”。页脚写着“公告来自 MiniMax 在 X 上的消息;模型信息来自 MiniMax;服务详情来自 Inferact。”OrcaRouter 标志位于右下角。
Guides & Insights

MiniMax 指定 Inferact 为 M3.1 Flash 的 API 发布合作伙伴。模型未变——变的是服务层。

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

2026年10月21日,在 MiniMax-M3.1-Flash 正式全面可用两天后,MiniMax 在 X 上的账号将 Inferact 列为该模型的 API 发布合作伙伴,称赞其在 vLLM 方面的专长,并将此次合作描述为共同构建“面向复杂智能体工作负载的服务基础设施”。这就是全部的公开声明:一条帖子,没有博客文章,没有技术细节。但这仍然值得认真对待,因为这是任何人首次公开谈及这个模型实际上将如何被提供服务——而对于一个主打卖点是三倍速提升的模型来说,服务层绝非脚注。它就是那个卖点本身。像此次发布这类模型背后,有据可查的 AI 故障与智能体事件都被收录在OrcaRouter AI 事件档案中,其中每条记录都附带各自的来源、严重程度、置信度评级以及争议标记。

发布帖不包含的内容

MiniMax 于 2026 年 10 月 19 日为 MiniMax-M3.1-Flash 发布了一篇正式的发布文章:智能体基准测试、成本降低 70%、推理“快了近三倍”。这是一项分量很重的工作,而文中没有出现 Inferact 这个词。文中也没有出现 vLLM。无论这项合作究竟意味着什么,在发布叙事被讲述的那一天,公司并未将其视为发布叙事的一部分。

那个缺口是公告中最能说明问题的地方。一个在两天后才被点名、只出现在一条社交帖子中、没有配套技术说明的发布合作伙伴,其工作仍在进行中。如果 M​iniMax 在正式可用时就已经让 M3.1-Flash 在调优过的第三方技术栈上运行,发布帖本会说明这一点——在具名引擎上首日提供服务,正是厂商会写进正文的那种佐证。相反,这一说法是单独出现的,没有数据,这说明该合作是在它即将成为承诺的时刻被宣布的,而不是在它已经成为成果的时刻被宣布的。

还有第二个较小的空白。10月22日查看时,Inferact 自己的网站合作伙伴列表中带有 MiniMax 标志,并有一条署名 MiniMax 创始人兼 CEO 闫俊杰博士的推荐语。该网站也完全没有提及 MiniMax-M3.1-Flash。其案例研究完全关于其他模型。因此,两家公司已宣布合作,但两家公司的营销网站都尚未从产品层面描述这一合作。应将其视为时效性的证据,而非疑虑的证据:那条 X 帖子才发布两天,而合作伙伴页面更新缓慢。

Inferact 是什么,以及为什么 vLLM 这一细节很重要

Inferact 自称是“由 vLLM 的创造者和维护者创立的公司”。其团队主导 vLLM 的路线图,而引擎本身保持开源、采用 Apache 2.0 许可证,并在 PyTorch Foundation 下由社区治理。正是这种结构,使得这项合作比大多数发布合作伙伴公告更清晰可解:vLLM 不是黑箱,因此 Inferact 为 MiniMax-M3.1-Flash 所做的任何改进,都有相当的机会出现在其他人都在运行的开放引擎中。

这家公司出售的是同一事物的两种形态。Inferact Platform 安装在客户自己的云或数据中心中——网站上的说法是“在你的算力上运行推理”——其控制平面涵盖监控、发布验证、成本跟踪、自动扩缩容、端点管理、计量和可观测性。Inferact Cloud 是同一平台,运行在 Inferact 提供的 GPU 上:“在我们的算力上运行推理。”对于任何把 M​iniMax 公告解读为可用性声明的人来说,这一区别很重要。该模型上的 API 发布合作伙伴,可能意味着由他人运营的托管端点,也可能意味着你安装在自己权重旁边的软件栈。对于闭源模型,只有第一种可能,这就缩小了该合作可能是什么的范围。

A generated card headed 'What a serving partner changes for agent workloads'. Four rows read 'Prefix caching' with 'the same system prompt and tool schema recur on every agent step', 'Paged attention' with 'a 1,000,000-token context no longer has to be contiguous', 'Continuous batching' with 'long reasoning traces share the hardware instead of queueing', and 'Speculative decoding' with 'several tokens proposed and verified per forward pass'. A footer reads 'Serving concepts per vLLM and Inferact; model limits per MiniMax.' The OrcaRouter logo sits bottom-right.

为什么这个特定模型首先是一个服务问题,然后才是定价问题

MiniMax-M3.1-Flash 作为一款廉价模型,其形态颇为不同寻常,而正是这种形态,让“如何部署服务”这一问题变得至关重要。

• 思考始终开启 — M​iniMax 的 API 参考文档会针对以下内容返回 HTTP 400:thinking: {"type": "disabled"},并以相同方式拒绝 reasoning_effort: "none",因此唯一的控制项是一个从 low 到 max 的五档阶梯;省略该字段即表示 max

• 因此,它受解码瓶颈制约——Artificial Analysis 在其 Intelligence Index 运行中记录到消耗了 1.8 亿个输出 token,而同一追踪器上模型的中位数为 9900 万个。

• 上下文窗口为 1,000,000 个 token,因此 KV 缓存内存成为限制节点可承载并发 agent 会话数量的硬性约束

• 智能体循环会复用一大段前缀——相同的系统提示、工具 schema 和文件上下文会在每一步中重复出现——因此前缀缓存可直接转化为延迟和成本上的收益

输出速度实测为每秒 125.5 个 token,首 token 时间为 1.04 秒;这在同类中算快的,但一旦出现并发长文本生成的排队,这个数字也是最先被拉低的。

把这些结合起来,你就会得到一种工作负载特征,它恰好有利于 vLLM 天生擅长的那些能力:分页注意力让百万 token 的上下文不必连续存放,前缀缓存让智能体步骤不必重复预填充相同的工具定义,连续批处理让上百条未完成的推理轨迹共享硬件,而不是彼此排队。MiniMax 自己宣称的峰值每秒 200+ token、中位数每秒 170+ token,既是关于内核的主张,也同样是对调度的主张。发布文章中的 3× 加速并不是单靠更好的矩阵乘法就能产生的。

A screenshot of Inferact's own website, showing the company describing itself as founded by vLLM's creators and maintainers, the line 'Production inference you control' and the two product shapes listed as running on your compute or on ours. A band of partner logos below includes a MiniMax logo alongside cloud and silicon vendors. No MiniMax-M3.1-Flash throughput figures appear on the page.

存在的数,以及不存在的数

Inferact 发布了性能数据,而这些数据值得仔细阅读,留意它们各自对应的是什么。其网站宣称,在发布当天,Kimi-K3 上批大小为 1 时达到每秒 464 个 token;在 TPU 上使用其首个 megakernel 时,每用户每秒 709 个 token;在同一模型上,SemiAnalysis AgentX 中每美元 1830 万个 token;以及在 2026 年 5 月于 Artificial Analysis 排名第一。上述每一项都是关于 Inferact 在不同模型上的工程能力的说法,由 Inferact 自己发布,本文没有将其中任何一项作为关于 MiniMax-M3.1-Flash 的事实来复述。

截至10月22日,根本不存在任何关于 M3.1-Flash 在 Inferact 技术栈上的数据:没有每秒 token 数,没有首 token 时间,没有每百万 token 成本,也没有并发曲线。这项公告是一个没有测量数据支撑的承诺。发布两天后,这很正常,而这也是唯一值得关注的理由——合作对买家的价值将完全取决于这些数字最终是否会超过 M​iniMax 自家提供的水平,而眼下,两家公司之外的任何人都不知道 M​iniMax 自家提供的水平究竟如何。

这就是证据的实际情况。该模型唯一独立测得的吞吐量来自 Artificial Analysis,为每秒 125.5 个 token;而且这是来自单一测试框架的单流数据,并非服务基准测试。它只能说明该模型可以快速生成。它完全无法说明一美元能换来多少并发用户。

A screenshot of MiniMax's own launch post, headed 'MiniMax M3.1 Flash: Redefining Agent Performance and Cost', opening with the claim that online inference is nearly three times faster and that usage costs fall by 70%, followed by a benchmark table comparing the model against five rival models across agentic, coding, computer-use and cybersecurity tasks. The post names no serving partner and no inference engine.

合作伙伴公告的实际价值究竟有多大

单看它自己,算不上什么,却又不止于虚无。有三样东西让它不止于虚无。

第一点在于,它是第二家实现方。一个只由一家公司提供的模型,意味着只有一种运维意见;而当这种意见经历糟糕的一周时,你的产品也会经历糟糕的一周。而一个具名的合作伙伴,意味着有第二个团队读过这套架构,找到了真正关键的 kernel,并且以足够公开的方式做出承诺,以至于一旦交付失败就会颜面尽失。这是一个微弱的信号,但它是真实的,而且这与让第二个云区域值得付费的逻辑如出一辙。

第二点是围绕智能体工作负载的定位框架。M​iniMax 并没有把这次合作描述为“更快的推理”,而是将其描述为面向“复杂智能体工作负载”的服务基础设施——这是一个比聊天吞吐量更具体、也更困难的问题:长生命周期的会话、与生成交织进行的工具调用、必须跨多个步骤持续存在的前缀,以及随轨迹长度而非提示数量增长的成本。为这一问题而选择的合作伙伴,就是为 M​iniMax 在市场推广中让该模型所针对的那种工作负载而选择的合作伙伴。这一选择是否正确,目前尚无法验证。

第三点是,它给运营层面的说法标定了时间。MiniMax-M3.1-Flash 已全面可用三天。权重尚未发布——公司表示“将在之后发布”,但没有给出日期——因此既没有自托管的退路,独立第三方也无法在自己的硬件上对该模型进行基准测试。目前,关于该模型在生产环境中表现如何的一切,都要经由提供服务的一方来传递。一个发布合作伙伴只是未来需要列出的一份名单中的第一项。

如果你正在选择在哪里运行它,这意味着什么

MiniMax-M3.1-Flash 不在 OrcaRouter 目录中。目前可通过 MiniMax 自己的 API、其 M Plan 和 MiniMax Code,以及——根据 10 月 21 日的公告——通过 Inferact 调用它。这就是我们能担保的完整清单,而其中没有一个是路由器:上述每一项都只是获取该模型的一个渠道,各有自己的速率限制、自己的可用性,而且一旦它宕机,背后没有第二个选项。

单供应商问题正是路由器要解决的,这也是为什么这里值得关注的问题不是“哪个合作伙伴”,而是“多少个”。OrcaRouter 将200+ 个模型置于一个 API 密钥之后,以 0% 加价透传供应商的标价,并且可以在路由表中保留一个后备项,这样当某个只有一个端点的模型所对应的端点出现短暂故障时,对该模型的请求就不会演变成服务中断。路由 DSL 正是表达这一点的地方:一个需要 MiniMax-M3.1-Flash 的智能体步骤可以先指定它,再回落到一个你已经信任的模型,而调用代码无需知道发生了替换。

目前我们目录中可路由的是 M​iniMax 系列的其余部分——MiniMax-M3 等——它也是在成本上需要对比的模型。MiniMax-M3.1-Flash 的价目表恰好是 MiniMax-M3 的一半:每百万输入和输出 token 分别为 0.15 美元和 0.60 美元,而后者为 0.30 美元和 1.20 美元;Artificial Analysis 给出的数据是,较新的模型每项基准任务 0.22 美元,而后者为 0.51 美元。对于智能体流量来说,这一差距是真实存在的。对于大批量的短分类调用任务,关闭思考的旧模型仍可能更便宜,因为 M3.1-Flash 根本无法关闭思考。

站得住脚的总结很有限。MiniMax 将 Inferact 列为 API 发布合作伙伴,这一表态说明的是谁将运营 MiniMax-M3.1-Flash;它是在该模型发布两天后作出的,而这家公司认为没必要把它写进发布文章。这证明该模型的推理服务层正在被主动重建,而不是沿用旧有基础;对于一个整个卖点就是吞吐量的模型来说,这正是你会预料的。这并不是关于吞吐量的证据。要判断吞吐量,请等待 Inferact 专门针对该模型发布的第一批数据——与此同时,把它放在有后备方案兜底的地方运行,因为一个只有一个端点且没有可下载权重的模型,是你无法通过路由绕开的模型。