一張生成的標題卡寫著「MiniMax M3.1 Flash + Inferact」,副標題為「一場 API 發布合作,於 2026 年 10 月 21 日宣布,也就是模型推出後兩天」。三個標籤寫著「模型於 2026 年 10 月 19 日發布」、「Inferact 建構並維護 vLLM」,以及「權重仍未釋出」。頁尾寫著「公告來源為 MiniMax 在 X 上的發文;模型資訊來源為 MiniMax;服務細節來源為 Inferact。」OrcaRouter 標誌位於右下角。
Guides & Insights

MiniMax 指定 Inferact 為 M3.1 Flash 的 API 發布合作夥伴。模型並未改變——改變的是服務層。

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

2026 年 10 月 21 日,也就是 MiniMax-M3.1-Flash 正式全面開放使用兩天後,MiniMax 在 X 上的帳號將 Inferact 列為該模型的 API 發布合作夥伴,讚揚其 vLLM 專業能力,並將此次合作描述為打造「複雜代理工作負載的服務基礎設施」。這就是全部的公開公告:一則貼文,沒有部落格文章,也沒有技術細節。不過,這仍值得認真看待,因為這是任何人首次公開談論這個模型實際上將如何被提供服務——而對一個主打三倍加速的模型來說,服務層並不是可有可無的註腳。它正是這項宣稱本身。像這次發布這樣的版本,其背後有紀錄的 AI 故障與代理事件,都收錄在 the OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。

發布貼文未包含的內容

MiniMax 於 2026 年 10 月 19 日為 MiniMax-M3.1-Flash 發布了一篇正式的發布文章:代理式基準測試、70% 的成本降低、推論「快了近三倍」。這是一項相當有份量的成果,而文中沒有出現 Inferact 這個詞。文中也沒有出現 vLLM。無論這項合作關係實際代表什麼,該公司在講述這次發布故事的那一天,並不認為它屬於發布故事的一部分。

那個落差是整篇公告中最有資訊價值的地方。一個在發布兩天後才於社群貼文中被點名、且沒有附帶技術文章的上線合作夥伴,就是工作仍在進行中的合作夥伴。如果 M​iniMax 在正式全面推出時就已讓 M3.1-Flash 在經過調校的第三方技術堆疊上運行,發布文一定會提到這件事——在具名引擎上提供首日服務,正是廠商會寫進正文裡的那種佐證。然而這項說法卻是另行出現,而且沒有數字,這告訴你:這項合作是在它成為承諾的時點被宣布,而不是在它成為成果的時點被宣布。

還有第二個較小的缺口。Inferact 自家網站於 10 月 22 日查核時,在合作夥伴名單中放了 MiniMax 標誌,還有一則署名為 MiniMax 創辦人暨執行長 Dr. Yan Junjie 的推薦語。該網站也完全沒有在任何地方提及 MiniMax-M3.1-Flash。其案例研究完全是在講其他模型。因此,兩家公司已宣布合作夥伴關係,但雙方行銷網站都尚未從產品角度說明。應將此視為時效新近的證據,而非疑慮:該則 X 貼文才發布兩天,而合作夥伴頁面更新緩慢。

Inferact 是什麼,以及為什麼 vLLM 的細節很重要

Inferact 自稱是「由 vLLM 創作者與維護者所創立的公司」。其團隊主導 vLLM 的發展藍圖,而引擎本身仍維持開源、Apache 2.0,並由 PyTorch Foundation 下的社群治理。這樣的結構正是這項合作比大多數發布合作夥伴公告更清晰易懂的原因:vLLM 並非黑箱,因此 Inferact 為 MiniMax-M3.1-Flash 所做的任何改進,都有相當機會出現在所有人都在使用的開源引擎中。

該公司販售同一種東西的兩種形態。Inferact Platform 安裝在客戶自家的雲端或資料中心——該網站的說法是「在你的運算資源上執行推論」——並附有控制平面,涵蓋監控、部署驗證、成本追蹤、自動擴展、端點管理、計量與可觀測性。Inferact Cloud 則是同一套平台,運行於 Inferact 所提供的 GPU 上:「在我們的運算資源上執行推論。」對於任何把 M​iniMax 公告解讀為可用性聲明的人來說,這項區別很重要。成為該模型的 API 發布合作夥伴,可能意味著由他人代為操作的受管端點,也可能意味著一套讓你安裝在自己權重旁邊的軟體堆疊。對於閉源模型,只有第一種可能,這縮窄了這項合作關係所能代表的範圍。

A generated card headed 'What a serving partner changes for agent workloads'. Four rows read 'Prefix caching' with 'the same system prompt and tool schema recur on every agent step', 'Paged attention' with 'a 1,000,000-token context no longer has to be contiguous', 'Continuous batching' with 'long reasoning traces share the hardware instead of queueing', and 'Speculative decoding' with 'several tokens proposed and verified per forward pass'. A footer reads 'Serving concepts per vLLM and Inferact; model limits per MiniMax.' The OrcaRouter logo sits bottom-right.

為什麼這個特定模型先是服務問題,然後才是定價問題

MiniMax-M3.1-Flash 對一款低價模型來說,形狀並不尋常,而正是這種形狀讓服務化問題成為關鍵所在。

• 思考功能始終開啟 — M​iniMax 的 API 參考會針對 thinking: {"type": "disabled"} 傳回 HTTP 400,並以相同方式拒絕 reasoning_effort: "none",因此唯一的控制方式是從 low 到 max 的五級階梯;省略該欄位即代表 max

• 因此,它的瓶頸在於解碼(decode-bound)——Artificial Analysis 在其 Intelligence Index 的執行過程中記錄到共消耗 1.8 億個輸出 token,而同一追蹤器上各模型的中位數為 9,900 萬個。

• 上下文視窗為 1,000,000 個 token,這使得 KV 快取記憶體成為限制單一節點能容納多少個並行代理工作階段的關鍵瓶緊。

• Agent 迴圈會重複使用一大段前綴——相同的系統提示、工具結構定義與檔案上下文會在每個步驟中反覆出現——因此前綴快取可直接轉化為延遲與金錢的節省

• 輸出速度測得為每秒 125.5 個 token,首個 token 時間為 1.04 秒;這在同級中算快,但一旦有多個長時間生成並行排隊,這正是最先被侵蝕的數字。

把這些放在一起,就會得到一種工作負載特性,恰好獎勵 vLLM 專為之打造的那些事:分頁式注意力讓百萬 token 的上下文不必連續存放;前綴快取讓代理步驟不必重新預填充相同的工具定義;連續批次處理讓上百條半完成的推理軌跡共享硬體,而不是彼此排隊等候。MiniMax 自稱峰值每秒 200+ 個 token、中位數 170+ 個 token,這既是排程層面的說法,也同樣是 kernel 層面的說法。發布文章中的 3 倍加速,不是更好的矩陣乘法單靠自己就能產生的結果。

A screenshot of Inferact's own website, showing the company describing itself as founded by vLLM's creators and maintainers, the line 'Production inference you control' and the two product shapes listed as running on your compute or on ours. A band of partner logos below includes a MiniMax logo alongside cloud and silicon vendors. No MiniMax-M3.1-Flash throughput figures appear on the page.

存在嘅數字,同埋唔存在嘅數字

Inferact 公布效能數據,而這些數據各自依附於什麼對象,值得仔細閱讀。其網站宣稱:Kimi-K3 上市首日、批次大小為 1 時可達每秒 464 個 token;在 TPU 上以首個 megakernel 達到每位使用者每秒 709 個 token;同一模型在 SemiAnalysis AgentX 上每美元可處理 1,830 萬個 token;以及於 2026 年 5 月在 Artificial Analysis 上排名第一。上述每一項都是 Inferact 自行發布、針對不同模型之 Inferact 工程成果的主張;本文並未將其中任何一項轉述為關於 MiniMax-M3.1-Flash 的事實。

截至 10 月 22 日,完全沒有任何關於 M3.1-Flash 在 Inferact 技術棧上的數據:沒有每秒 token 數、沒有首個 token 的延遲、沒有每百萬個 token 的成本,也沒有併發曲線。這項公告是沒有量測數據的承諾。才過兩天,這很正常;而這也是唯一值得關注的理由——這項合作對買家的價值,將完全取決於這些數字最終是否勝過 MiniMax 自家提供的服務,而現在,兩家公司之外沒有人知道 MiniMax 自家提供的服務是什麼。

這才是證據目前的真實狀況。這個模型唯一獨立測得的吞吐量來自 Artificial Analysis,為每秒 125.5 個 token,而那是單一測試框架下的單流數據,並非服務基準測試。它只告訴你模型能快速生成,卻完全無法說明每美元能支撐多少同時使用者。

A screenshot of MiniMax's own launch post, headed 'MiniMax M3.1 Flash: Redefining Agent Performance and Cost', opening with the claim that online inference is nearly three times faster and that usage costs fall by 70%, followed by a benchmark table comparing the model against five rival models across agentic, coding, computer-use and cybersecurity tasks. The post names no serving partner and no inference engine.

合作夥伴公告究竟有多少價值

單憑自身不算多,卻也不只是空無。有三件事讓它不只是空無。

第一點是,它是第二個實作方。一個只由一家公司提供服務的模型,就是只有一種維運觀點的模型;而當那個觀點碰上糟糕的一週,你的產品也會碰上糟糕的一週。具名的合作夥伴意味著第二個團隊已經讀過架構、找到真正關鍵的 kernel,並且公開承諾到若無法交付會令人難堪的程度。那是個微弱訊號,但卻是真實的訊號,而這也正是讓第二個雲端區域值得付費的同一套邏輯。

第二點是「代理工作負載」這個框架。M​iniMax 並沒有把這項合作形容為「更快的推論」,而是把它形容為服務「複雜代理工作負載」的基礎設施;這是一個比聊天吞吐量更具體、也更困難的問題:長時間存續的會話、工具呼叫與生成交錯進行、必須跨步驟存續的前綴,以及成本隨軌跡長度而非提示數量成長。為這個問題所挑選的合作夥伴,就是為 M​iniMax 推銷該模型時所鎖定的工作負載所挑選的合作夥伴。這個選擇是否正確,目前還無法驗證。

第三點是,它為實際營運情況提供了時間定位。MiniMax-M3.1-Flash 正式全面推出已三天。權重尚未釋出——公司表示「將於之後釋出」,但沒有給出日期——因此沒有自行託管的退路,獨立第三方也無法在自己的硬體上對該模型進行基準測試。目前,關於這個模型在生產環境中表現的一切,都由提供服務的一方居中決定。首發合作夥伴是未來必須形成的一份清單中的第一項。

如果你正在選擇要在哪裡執行它,這對你意味著什麼

MiniMax-M3.1-Flash 不在 OrcaRouter 目錄中。目前可透過 M​iniMax 自家的 API、其 M Plan 與 M​iniMax Code,以及——根據 10 月 21 日的公告——透過 Inferact 呼叫。這就是我們能保證的完整清單,而其中沒有任何一個是路由器:那些都只是取得該模型的單一途徑,各有自己的速率限制、自己的可用性,而且一旦故障,背後沒有第二個選項。

這種單一供應商問題正是路由器的用途,也正是為什麼這裡有意思的問題不是「哪個合作夥伴」,而是「要幾個」。OrcaRouter 將 200+ 個模型置於同一個 API key 之後,以 0% 加價傳遞供應商標價,並可在路由表中保留一個備援,這樣對只有一個端點的模型的請求,就不會因為該端點短暫出狀況而變成服務中斷。路由 DSL 正是表達這件事的地方:某個需要 MiniMax-M3.1-Flash 的代理步驟可以先指名它,再降級到你已經信任的模型,而呼叫端程式碼完全不知道發生了替換。

目前我們型錄中可路由的是 MiniMax 系列其餘部分——包括 MiniMax-M3 等——這也是成本上應相比的模型。MiniMax-M3.1-Flash 的費率表正好是 MiniMax-M3 的一半:每百萬輸入與輸出 token 分別為 $0.15 與 $0.60,對比 $0.30 與 $1.20;而 Artificial Analysis 將較新模型評為每項基準任務 $0.22,對比 $0.51。對於代理式流量而言,這個差距是真實存在的。對於大量短分類呼叫的工作,關閉思考功能的較舊模型仍可能更便宜,因為 M3.1-Flash 完全無法關閉思考功能。

站得住腳的總結範圍很窄。M​iniMax 把 Inferact 列為 API 發布合作夥伴,這是在該模型推出兩天後,由一家不認為適合把它寫進發布貼文的公司,針對誰將營運 MiniMax-M3.1-Flash 所作的聲明。這是證據,顯示這個模型的服務層正在被積極重建,而非沿用既有架構——這對一個整體賣點就是吞吐量的模型來說,正是預料中之事。但這不是關於吞吐量的證據。若要找這方面的證據,請等待 Inferact 針對這個特定模型公布的第一批數字——同時,請把它跑在某個背後有備援的環境裡,因為一個只有單一端點、又沒有可下載權重的模型,就是你無法繞開的模型。