Mistral Large 4 的 API:聊天、代理、批次,以及多數指南略過的端點,圖片 1/4。
Guides & Insights

Mistral Large 4 的 API:聊天、代理、批次,以及多數指南略過的端點

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

多數關於新模型的評測文章只談到聊天補全為止。Mistral 自己針對 Mistral Large 4 的文件列出了四個產品層面——聊天、代理與對話、批次,以及內建工具——而定價頁面還加上了幾乎沒人使用的第二個軸度:標準、批次與優先推論層級,外加區域推論開關。知道你自己處於其中哪一項,比知道該模型的基準測試分數更有價值。

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 2 of 4.

這些介面,如 Mistral 所記載的那樣

• 聊天補全 — code>/v1/chat/completions/code>。此為 OpenAI 格式的端點,功能包括結構化輸出、函式呼叫、前綴補全與文件問答。

• 代理與對話 — code>/v1/agents/code> 與 code>/v1/conversations/code>。伺服器端狀態,而非用戶端訊息組裝:您將對話保存在 Mistral 端並引用它,這消除了主導輸入權杖帳單的「重新傳送整段歷史」模式。

• 批次 — code>/v1/batch/code>。非同步作業提交,依批次層級計價,而非標準層級。

• 內建工具 — 由模型呼叫 Mistral 自己的工具集,而非你的工具集。

那四個並不是同一個產品搭配不同 URL。Agents 介面會改變你的成本結構——如果對話存放在伺服器端,帳單的輸入端就不再隨歷史長度而增加。Batch 介面則會改變你的價格級別。兩者都有文件記載,而且都很容易被忽略,因為每一篇教學都從 chat completions 開始,也以 chat completions 結束。

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 3 of 4.

沒有人定價的等級軸

Mistral 的 API 定價頁面在模型網格上方有一列篩選器——Standard、Batch、Priority——另外還有分別用於區域推論和貨幣的獨立切換開關。這表示 $1.36/$0.14/$4.18 那張卡片是 Standard 層級的價格。Batch 是另一個數字。Priority 又是另一個數字,而多數買家截圖的預設檢視中兩者都不會顯示。

在你拿 Mistral Large 4 的價格去跟任何東西比較之前,先確認你讀到的數字屬於哪一個方案層級。實務上的不對稱在於:落在標準層級的批次工作負載,等於是以零售價支付價目表上早已打折的能力。

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 4 of 4.

端點背後的模型是什麼

依 Mistral 的規格卡,總參數為 1.05 兆,其中 520 億為活化參數;採用細粒度稀疏專家混合架構,具備 128 個路由專家,每個 token 啟用四個;另搭載 16 億參數的視覺編碼器;輸入為文字與影像,輸出為文字;類別為推理與文字。上下文設定為 1M,在受測配置上實測為 524,288。權重依 Mistral Ecosystem Open-Weight License 公開發布,bf16 格式為 1,060.6 GB,另有 610.1 GB 的 NVFP4 版本。

該授權的一項後果值得在任一整合計畫中寫上一行:第 2 條將「Model as a Service」(模型即服務)——讓第三方能存取模型,並對輸入、參數或訓練資料擁有實質控制權——保留給另行簽訂的商業協議。嵌入式功能、內部部署,以及僅轉發至他人端點,均被排除在外。呼叫 API 不受影響;透過你自己的 API 轉售原始存取則會受到影響。

能省錢的整合順序

• 先選擇介面。 如果你的產品會進行對話,請使用 agents/conversations 端點,並停止重送歷史紀錄;那是輸入 token 的計費項目,而此模型的輸入價格是每百萬 $1.36。

• 第二順位再選方案。任何非同步的項目都應歸入批次,切換篩選條件後,定價頁面會顯示差異。

• 第三,測量上下文上限。 實測為 524,288,而非宣稱的 1M——向你的主機送出一個過大的請求,然後讀取錯誤訊息。

• 最後再加入快取。 $0.14 的快取輸入對比 $1.36 的標準價格,是穩定狀態帳單上最大的單一槓桿,前提是你的前綴保持穩定。系統提示開頭的時間戳會讓它變成全價呼叫。

Mistral Large 4 不在 OrcaRouter 的目錄中,因此這不是我們能提供的路由——它可透過 Mistral 自家的 API 及第三方主機呼叫。我們確實提供的一般形式,是單一 OpenAI 相容端點涵蓋 224 個模型,並以 0% 加價轉嫁供應商定價,且廠商的方案等級與價格變動會在宣布當天生效,而非等到下一次續約。