Mistral Large 4 的 API:聊天、智能体、批处理,以及大多数指南都会跳过的端点,图 1/4。
Guides & Insights

Mistral Large 4 的 API:聊天、智能体、批处理,以及大多数指南都会跳过的端点

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

大多数关于新模型的报道都止步于聊天补全。Mistral 自己为 Mistral Large 4 编写的文档列出了四个产品面——聊天、智能体与会话、批量以及内置工具——而定价页面又增加了几乎没人使用的第二个维度:标准、批量和优先推理层级,外加一个区域推理开关。知道自己用的是其中哪一种,比知道该模型的基准分数更有价值。

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 2 of 4.

这些接口,正如 Mistral 文档中所述

• Chat Completions — code>/v1/chat/completions/code>. OpenAI 形态的端点,将结构化输出、函数调用、前缀补全和文档问答列为功能。

• 代理与对话 — code>/v1/agents/code> 和 code>/v1/conversations/code>。由服务端维护状态,而不是在客户端组装消息:你将对话保存在 Mistral 一侧并通过引用来使用它,从而消除了主导输入 token 费用的“重新发送完整历史记录”模式。

• 批处理 — code>/v1/batch/code>。异步作业提交,按批处理层级而非标准层级定价。

• 内置工具 —模型调用 Mistral 自带的工具集,而非你的工具集。

那四个并不是同一产品换了不同的 URL。agents 接口会改变你的成本结构——如果对话保存在服务端,账单中输入侧的费用就不再随历史记录长度增长。batch 接口会改变你的价格档位。两者都有文档说明,但都很容易被忽略,因为每个教程都以 chat completions 开始,也以它结束。

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 3 of 4.

无人定价的分级维度

Mistral 的 API 定价页在模型网格上方有一行筛选器——Standard、Batch、Priority——另外还有一个用于区域推理的独立开关,以及一个用于币种的开关。这意味着 $1.36/$0.14/$4.18 那张卡片对应的是标准档位。Batch 是另一个数字。Priority 又是另一个数字,而这两个数字都不在大多数买家截图时所看到的默认视图里。

在把 Mistral Large 4 的价格与任何东西作比较之前,先确认你看到的那个数字属于哪一档。实际存在的不对称之处在于:一项落在标准档的批处理负载,是在为价目表上早已打过折的能力支付零售价。

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 4 of 4.

端点背后的模型是什么

根据 Mistral 的模型卡,总参数为 1.05 万亿,激活参数为 520 亿;采用细粒度稀疏专家混合架构,包含 128 个路由专家,每个 token 激活其中 4 个;配备 16 亿参数的视觉编码器;支持文本和图像输入、文本输出;类别为推理与文本。上下文长度配置为 1M,在测试配置上实测为 524,288。权重根据 Mistral Ecosystem Open-Weight License 公开,bf16 格式为 1,060.6 GB,另有 610.1 GB 的 NVFP4 版本。

该许可的一个后果值得在任何集成计划中写上一笔:第2条将“Model as a Service”——即让第三方访问模型,并对输入、参数或训练数据拥有实质性控制权——保留给另行签订的商业协议。嵌入式功能、内部部署,以及仅仅转发到他人的端点,均被排除在外。调用 API 不受影响;通过你自己的 API 转售原始访问权则受影响。

省钱的集成顺序

• 先选择接口类型。如果你的产品需要承载对话,请使用 agents/conversations 端点,并停止重复发送历史记录;这属于输入 token 计费项,而该模型的输入价格为每百万 $1.36。

• 其次选择档位。任何异步任务都应归入批处理;切换筛选器后,定价页面会显示差价。

• 第三,测量上下文上限。实测为 524,288,而非宣称的 1M——向你的主机发送一个超大请求,然后读取错误信息。

• 最后再添加缓存。只要你的前缀保持稳定,缓存输入 $0.14 对比标准输入 $1.36,就是稳定状态下账单上最大的一个杠杆。系统提示开头的时间戳会让它变成全价调用。

Mistral Large 4 不在 OrcaRouter 的目录中,所以这不是我们能提供的路由——它可以通过 Mistral 自家的 API 以及第三方托管商调用。我们确实提供的通用形态是:一个兼容 OpenAI 的端点,覆盖 224 个模型,供应商标价按 0% 加价原样透传,厂商的档位与价格变动在公布当天即落地生效,而不是等到下一次续约时才更新。