MiniMax M3.1 Flash 現已於 Tenstorrent 上提供服務：一個 428B 模型在 Tensix 上究竟證明了什麼

Tenstorrent 的新聞編輯室文章日期為 2026 年 10 月 22 日，而它說的內容比「又一家雲端供應商新增了另一個模型」更狹窄、也更有趣：MiniMax M3.1 Flash，這個由 MiniMax 於 10 月 19 日發布的 4,280 億參數混合專家模型，現已在 Tenstorrent Cloud 上提供，且 prefill 與 decode 都在 Blackhole Galaxy 系統上執行。那條服務路徑中完全沒有出現 NVIDIA 加速器。Tenstorrent 公布的是架構、量化方案與調校方法論。它沒有公布的是自家服務的單一吞吐量數字、延遲數字或價格。這項省略正是決定這究竟是里程碑還是示範的關鍵，而且它比該模型的基準測試表更值得關注。

Tenstorrent 是由 Jim Keller 領導的晶片公司，而它一貫的主張是：AI 運算不應是單一供應商的堆疊。在這項宣布之前，這個主張在高階市場一直有可信度問題：最大的開源模型通常運行在 NVIDIA 硬體上，AMD 是替代選項，其他一切則僅限於小型模型實驗。一個 428B 參數的混合專家模型在 Tensix 晶片上執行預填充與解碼，並以乙太網路而非專有互連架構連接，這是第一個以這種規模、這種新近程度的模型讓這項主張站得住腳的部署。

Tenstorrent 正式公開了哪些內容

這份公告對服務拓撲講得很具體，卻對買方會用到的每一個數字含糊其辭。先說具體的部分，因為這些是實實在在的工程主張：

• 可用性 — Tenstorrent Cloud，位於 console.tenstorrent.com，可透過 Playground 或連接至代理程式框架使用。

• 服務路徑 — 預填充（prefill）與解碼（decode）皆在 Tenstorrent Galaxy 上執行，具體而言是由 Blackhole Galaxy 組成的超級叢集。系統依工作負載分組：一組負責預填充，另一組負責解碼，工作透過直接、低延遲的 Ethernet 連結在兩者之間傳送。

• 記憶體 — 每台 Blackhole Galaxy 搭載 1 TB 的 DRAM，外加數 TB 的 SSD。權重與 KV 快取常駐於 DRAM；SSD 則存放卸載的 KV 快取，讓再次返回的代理回合不必重新計算其上下文。

• 量化 — MLP 權重、注意力權重、索引器與共享專家以 MXFP8 儲存；路由專家則以 NVFP4 儲存。

• 模型形態 — 稀疏注意力取代了全域分組查詢注意力，而稠密 MLP 僅出現在前三層。

• 調校資料 — Tenstorrent 表示，他們是依據 SemiAnalysis 的 AgentX 程式設計代理軌跡來調校這套部署，也就是採用真實的多輪工作階段與子代理平行展開，而非簡短的聊天基準測試。

• 報價——每百萬輸入 token 0.15 美元、每百萬輸出 token 0.60 美元、每百萬快取輸入 token 0.015 美元。這是 MiniMax 的定價；公告並未公布單獨的 Tenstorrent 費率，因此目前還無法判斷在此運行該模型的成本，會比在 GPU 上運行更高還是更低。

部署之所以存在，是因為權重已經出來了。

這項宣布背後最重要的事實不是矽晶片本身，而是 MiniMax 竟然公開了權重。這個 252.4 GB 的儲存庫於 10 月 23 日在 Hugging Face 上架，而 Tenstorrent 的貼文日期卻早了一天——這暗示該移植是透過合作夥伴存取權建置，而非從公開下載取得。第三方硬體廠商無法移植自己取得不到的模型，而 Tenstorrent 也不是服務自家檢查點的 MiniMax 子公司。這正是開放權重創造硬體競爭的機制：每個發布檢查點的實驗室，都會把每個有意願的晶片廠商變成潛在的散布通路；而每個支援該模型的晶片廠商，反過來也讓該實驗室的權重更有價值。

同樣的邏輯也解釋了為什麼封閉式前沿模型不會出現在這類公告中。廠商可以向你出租專有模型的 API 端點，卻無法把權重量化成自家的數值格式、針對模型的稀疏注意力模式調校其核心，也無法把 prefill 與 decode 拆分到自家的網路架構上。移植本身就是產品，而移植需要那份檔案。

這也是為什麼這個故事裡的「open」必須拆成兩件不同的事。Tenstorrent 的軟體堆疊——TT-Metalium、TT-NN、TT-Forge——是開放原始碼的，而這正是第三方移植之所以可行的原因。MiniMax 的權重是開放權重，不是開放原始碼。該儲存庫共 252.4 GB，由 48 個 safetensors 分片，外加一個 2.3 GB 的推測解碼草稿模型組成，並以 MiniMax Community Licence 發佈；該授權要求商業部署時署名，且年營收超過 2,000 萬美元後須事先取得書面許可。兩種不同的 open，共用同一條服務路徑。

為什麼服務路徑要分成兩部分

prefill/decode 分離並非 Tenstorrent 的獨有做法；它是針對代理工作負載所產生問題的標準解法。Prefill 受運算限制，且每個提示只發生一次。Decode 受記憶體頻寬限制，且每生成一個 token 就發生一次，並在回答持續期間不斷進行。若將兩者放在同一批裝置上，那麼在串流中途抵達的長提示就會從所有目前正在解碼的使用者手中搶走運算資源，而這正是讓代理產品顯得故障的停頓。

將資源池分開，可讓兩邊各自針對自身的瓶頸進行配置。Tenstorrent 的描述明確指出，prefill 資源池利用高裝置對裝置頻寬，將提示分散到多顆晶片上，而 decode 資源池則將權重與 KV 快取保留在 DRAM 中，並獨立執行各個步驟。交接工作則由乙太網路連結承載。

乙太網路是值得注意的選擇。專有的 scale-up 互連架構能提供比商用乙太網路更高的頻寬與更低的延遲，而 NVIDIA 在 AI 運算中的地位，部分正是建立在它擁有那套互連架構之上。Tenstorrent 則主張，就這項工作負載而言——一個擁有 230 億活躍參數的混合專家模型，且其服務方案已將 prefill 與 decode 分離——標準乙太網路已經夠用，而且 scale-out 的經濟效益更好，因為互連不會成為第二個鎖定。這是個合理的論點，但尚未獲得證實。要等到有人公布多節點部署下每美元每秒 token 數的數據，它才算得到證實——而目前還沒有人這麼做。

讓 428B 放進單一機架的算術

這個模型總共有 4,280 億個參數，每個 token 會啟用其中 230 億個。以 BF16 儲存時，在尚未計入任何 KV 快取或執行階段額外開銷前，大約是 856 GB。單一 Blackhole Galaxy 由 32 顆 Blackhole ASIC 組成，每顆配備 32 GB GDDR6——也就是 Tenstorrent 所稱的 1 TB——因此一份 BF16 副本會佔用系統約 84% 的記憶體，僅留下大約 170 GB 給其他所有用途。在 100 萬 token 的上下文下，KV 快取還必須撐過多個代理回合，這樣的餘裕稱不上從容。

已發布的下載檔為 252.4 GB。正是這個數字讓部署得以成立：它為 KV 快取、活化值與投機解碼草稿模型留下 Galaxy 那一 TB 中約 770 GB 的空間。混合精度方案正是換來這些空間的關鍵——共享權重與注意力側權重採用 MXFP8，路由專家採用 NVFP4；後者是參數的主體，也是僅被稀疏存取的部分。稀疏注意力與僅限於前三層的稠密 MLP 更進一步降低記憶體流量。

這個計算是我們自己根據公開數字算出來的，並非 Tenstorrent 的說法。但它說明了這則公告的輪廓：這個移植之所以可信，正是因為 4 位元路由專家把一個 856 GB 的模型變成一個 252 GB 的檔案，能放進 32 晶片系統，還留有空間支援長上下文。

Tenstorrent 未發布的內容

Tenstorrent 託管端點沒有每秒 token 數、首個 token 時間、併發數，也沒有價格。對於一個整個前提是非 NVIDIA 晶片也能服務前沿級開放模型的部署而言，這四項數字本可為爭論定論。它們的缺席並非該部署很慢的證據，而是這項公告屬於能力陳述、而非基準測試結果的證據，讀者應據此歸類看待。

MiniMax M3.1 Flash 唯一公開的速度數字所描述的是另一種部署。MiniMax 聲稱，在其自家 API 上，輸出 token 的中位數高於每秒 170 個，峰值高於每秒 200 個。Artificial Analysis 測量的是託管 API，而非 Tenstorrent 的硬體；其記錄到每秒 95.6 個輸出 token，首 token 時間為 1.48 秒。這大約是供應商說法與不同服務路徑上的獨立測量之間 1.8 倍的差距；這也適時提醒我們，「模型很快」和「這個部署很快」是兩種不同的說法。

Artificial Analysis 對這款模型所確立的事實，對 Tenstorrent 的使用情境而言，比頭條基準測試更相關。M3.1 Flash 在 Intelligence Index 上得分 43，每完成一項指數任務的成本約為 0.22 美元，並在 AA-Omniscience 上得分 16，幻覺率達 93%——這表示當它不知道答案時，通常會產生錯誤答案，而不是拒絕回答。Tenstorrent 根據代理軌跡調校了此部署。代理迴圈正是自信的錯誤答案代價最高的地方，因為下一次工具呼叫會繼承這些答案。快速、低成本的服務路徑並不能解決這個問題；它反而讓驗證層更加重要。

如果你是推論服務的買家，該如何處理這件事

對大多數團隊來說，本週務實的答案是「先測試它，不要遷移到它」。Playground 是確認該模型行為是否符合你工作負載的最便宜方式，而 Tenstorrent 的 agent harness 整合是值得探究的有趣部分，因為這次部署是針對多輪工具使用調校，而非單次對話。帶上你自己的追蹤資料。SemiAnalysis AgentX 調校說明的是 Tenstorrent 優化了什麼；它不會告訴你你的提示詞實際上會如何表現。

不要在它上面建立正式生產路徑，直到有兩件事存在：Tenstorrent 公布的吞吐量與延遲數據，以及你自己對每項任務品質的測量。第一件事只差廠商提供答案。第二件事只有你能回答。

關於 OrcaRouter 在這當中的定位，有一點必須誠實說明。M3.1 Flash 並不在我們的型錄中；我們這裡的 MiniMax 產品線只到 MiniMax-M3。因此，目前要呼叫這款新模型，途徑是 Tenstorrent Cloud 與 MiniMax 自家的 API，而我們並不在其中。OrcaRouter 能提供的，是你在做出承諾之前所需的比較基準：MiniMax-M3 以及另外 200 多款模型，全都透過單一金鑰即可取用，依供應商標價、0% 加價，讓你無須再簽一份合約、再建立一套計費關係，就能回答「這款新模型對我的工作負載而言，是否真的比我目前使用的模型更好」這個問題。

能讓港口變成價格的那個數字

Tenstorrent 展示了實實在在的成果：一個 428B 混合專家模型，量化為混合 4/8 位元格式，透過 Ethernet 在 Tensix 晶片上執行推論的兩個部分，並搭配開源工具與已公開的調校方法。這是一項可移植性證明，也是此模型規模下首個不經由 CUDA 的證明。

它並未證明這項移植比 GPU 路線更便宜、更快或更可靠。Galaxy 是一套 6U、32 顆 ASIC、約 23 PFLOPS 的 BlockFP8 系統，於 2026 年 4 月正式上市時標價 110,000 美元，而且這還未計入此部署所使用的超級叢集網路。那套硬體執行這個模型時，每百萬 token 的成本是否比 H100 或 MI300X 叢集更低，正是整個商業問題的核心，而公告對此隻字未提。

因此，接下來要關注的並不是同一硬體上的另一個模型，而是 Tenstorrent 公布的每秒 token 數與價格表，隨後還要看第二家晶片供應商完成同樣的移植。當這些都出現時，開放權重才會轉化為真正的硬體競爭。在那之前，準確的描述是：一場可信的架構示範，但商業層面仍未公開。