自行託管 Mistral Large 4：1.06 TB 實際上要花你多少成本

權重已釋出、無需申請，且授權允許商業使用。這三項事實讓自行託管 Mistral Large 4 看起來像是一項可行的決定，而非幻想。接著你看到檔案清單：54 個 safetensors 分片，bf16 格式下共 1,060.6 GB，這還未計入任何 KV cache token。這個數字——而非兆級參數的頭條——才是你規劃儲存與 GPU 的依據，也是大多數團隊讀完這頁後仍選擇留在 API 的原因。

這兩個檢查點，以及各自的要求

• bf16 —54 個分片，1,060.6 GB，其中兩個為 16.9 GB 和 4.2 GB，其餘 52 個介於 19.7 至 20.0 GB。一旦保留 KV 狀態，它就無法有效地放進八張 141 GB 加速器，因此請規劃更多硬體或採用量化路徑。

• NVFP4 —獨立儲存庫，32 個分片，610.1 GB，Mistral 將其定位為適用於原生支援 NVFP4 的 Blackwell 硬體。Mistral 自身建議：四張 B200 或 B300 GPU。所謂維持「相同效能」的說法是廠商宣稱，並非實測。

• 服務配置 —模型卡片的 vLLM 設定要求張量平行度為 8，並採用 FP8 KV-cache 資料型別。這是要用來做基準測試的設定，並非對輸送量的承諾。

• 上下文 —已配置 1M 個 token，在受測配置上實測為 524,288。長上下文會放大 KV 快取壓力；對於 16 億參數的視覺編碼器加上 1.05 兆參數的 MoE 而言，這正是能否容納得下的關鍵。

無人會做的損益兩平

以促銷價格作為主機代管必須超越的基準：每百萬個輸入 token 0.68 美元，每百萬個輸出 token 2.09 美元。以實際的雲端費率——就說是每 GPU 小時 8 到 12 美元——四張 B200 每小時要 32 到 48 美元，或大約每月 23,000 到 35,000 美元，而這還不包括儲存、網路、工程，以及調校服務堆疊所需的時間。

若要以那筆每月成本、對照每百萬輸出 token 2.09 美元來達到收支平衡，你每個月都必須在滿載使用率下產生超過一百一十億個輸出 token。這是幾乎只有超大規模雲端業者才實際擁有的用量，而且它忽略了首次部署所要花費的兩週工程時間。

換個說法：每月一億個輸出 token——一個龐大但真實的生產數字——API 費用約為促銷價 209 美元，或牌價 418 美元，而託管帳單則是數萬美元。在那種規模下，自架並不是折扣，而是購買另一種東西。

那個別的東西究竟是什麼

四件事，而這正是下載 1.06 TB 唯一誠實的理由。

資料落地。權重永遠不會離開您的防護邊界。對於受監管的工作負載而言，這不是偏好，而是必要條件，任何 API 價格都無法與之匹敵。

授權確定性。Mistral 生態系開放權重授權允許商業使用、修改、進一步訓練與衍生作品，但有一項保留條件：經營「模型即服務」——讓第三方對輸入、參數或訓練資料擁有實質控制權——須另行簽訂商業協議。嵌入式功能、內部使用與單純轉送則不在此限。擁有該製品，即意味著你所同意的條款就是適用的條款。

微調的權利。你訓練出的衍生物屬於你，而任何託管 API 無論價格多高都無法提供這一點。

確定性。 您驗證過的檢查點，就是您實際執行的檢查點。託管模型可以在相同名稱下被重新指向新版本；您磁碟上的檔案則無法如此。

這四者都不是的：每 token 更便宜。上述的算式已讓任何未達超大規模（hyperscale）的團隊排除此可能，而建立在節省成本預期上的計畫，撐不過第一張帳單。

主機服務商必須讀兩次的授權條款

如果你自行託管的原因是為了向客戶提供模型服務，那麼第 2 條就是決定你法律架構的段落。為自家產品進行運算沒有問題；但若平台將模型交給客戶，並讓客戶對輸入、參數或訓練擁有實質控制權，則在沒有另行簽訂協議的情況下，本授權並不允許這種平台存在。「僅將請求轉送至由他人託管的模型」這項例外規定的範圍很窄，而且就是字面意思：將請求轉送到他人的端點並非託管。

這個區別是這一頁上費率表無法回答的唯一一件事，而在購買 GPU 之前，值得花一小時諮詢律師。

誰應該下載它？

若監管機關、客戶合約或資料分類政策已經告訴你答案，就下載。若你打算微調並推出衍生模型，就下載，因為那是 API 不販售的能力。若你有已付費且閒置的 Blackwell 容量，就下載——四台 B200 上的 NVFP4 路徑，是唯一能讓數字接近損益兩平的配置。

如果問題是價格，就繼續用 API。促銷價為 0.68 美元與 2.09 美元，牌價為 1.36 美元與 4.18 美元；呼叫這個模型是市場上取得兆參數多模態答案最便宜的方式之一——前提是你把促銷視為一個時間窗口，而不是常態費率。Mistral Large 4 不在 OrcaRouter 的目錄中，因此那條路線會經由 Mistral 自家的 API 與第三方主機；我們確實提供的整體形式，是一個 OpenAI 相容端點，涵蓋 224 個模型，採供應商牌價且不加價，供應商的價格變動會在公告當天生效，而不是等到下一次續約。