ERNIE Light DT 1.0 與 ERNIE 5.5 Flash Base：授權才是產品

ERNIE Light DT 1.0與ERNIE 5.5 Flash Base是同一家實驗室對兩個不同問題給出的答案，兩者於 2026 年 11 月相隔五天發布。Light DT 是一個 API：沒有權重、沒有模型卡，輸入價格為每百萬個 token 1.13 美元，輸出上限為 131,072 個 token。Flash Base 則可供下載：2,800 億個參數、每個 token 啟用 140 億個參數、33.5 兆個訓練 token，且百度完全沒有提供託管端點。兩者之間的選擇其實不在於基準測試——兩者都沒有值得爭論的已公布分數——而在於你是想租用一套服務堆疊，還是想擁有授權、在其上自行建構。

而授權條款正是這項比較不再對稱的地方，因為 Flash Base 的授權條款對於你可以在哪裡使用它，以及你必須告知誰，規定得異常具體。

兩件文物，同一間實驗室，相隔五天

Flash Base 於 2026 年 11 月 5 日問世，附有技術報告，並在 Hugging Face 上以 FP8 與 BF16 兩種精度釋出開放權重，採用 ERNIE 5.5 Flash Base Model License v1.0 授權。它是預訓練檢查點，也就是說，您取得的權重是預訓練產出的版本，尚未經過任何指令微調或偏好相關作業。沒有像樣的聊天模板，也沒有同步發布的 instruct 同系列模型。

Light DT 於 2026 年 11 月 10 日以國際 API 端點的形式推出；百度稱其基於開源 GLM 模型，並融入該公司搜尋業務「Lightning」產品線的研究成果，核心採用百度 Sparse Attention 以及回饋驅動的歷史壓縮機制，廠商表示這可降低 KV 快取儲存與運算量。它經過後訓練，能回答問題、呼叫工具，且並非可供下載的檔案。

這麼說來，這組搭配明顯朝同一個方向傾斜：一個是成品，另一個是起點。但價格說明並非如此，而授權條款又透露出另一回事。

方向錯誤的費率卡

Light DT 每個 token 的成本，比一個活躍參數量達其二十倍的模型還要高。這是閱讀本文其他內容之前，必須先消化的事實：

• 輸入價格 — ERNIE Light DT 1.0 為每百萬個 token 1.13 美元，對比 ERNIE 5.5 Flash Base 為 $0，因為沒有 Baidu 端點，因此也沒有標價。$0 是真實的：託管它是一項資本成本，而不是發票上的一行。

• 輸出價格 — Light DT 每百萬 $3.94；Flash Base 則以您自己的 GPU 時數計。

• 快取輸入 — 在 Light DT 上每百萬 $0.113，快取讀取可享十分之一價格。Flash Base 沒有對應方案，因為快取的成本效益會變成你排程器的問題。

• 每個 token 的活躍參數 — Light DT 未公開；Flash Base 為 140 億。

• 上下文 — Light DT 為 1,024,000 個 token；Flash Base 在微調與推論時為 1,000,000 個 token，最大訓練上下文為 128,000 個。

• 最大輸出 — Light DT 為 131,072 個 token；Flash Base 則受您的服務組態限制。

• 權重 — Light DT 不需權重；Flash Base 則為 FP8 或 BF16 格式的 280B，並在 FP8 儲存庫中拆分為 128 個 safetensors 分片。

• 推論服務堆疊 — Light DT 使用 Baidu 自家的；Flash Base 則使用 SGLang 或 vLLM 搭配 Baidu 自家外掛。已公布的 SGLang 設定方案要求張量平行度為 4，且注意力資料平行大小為 4，這表示在尚未載入任何一個請求之前，最低就需要四張 GPU。

自架 280B 模型每百萬 token 的實際成本是多少

這是決定這場對決的計算，值得用粗略的整數來算，而不是憑感覺。

四張 GPU 是公開配置的最低要求，但 FP8 下的 280B 參數在尚未計入任何快取前，權重就約有 280 GB，因此實際的生產節點需要八個加速器，才有空間容納 KV 快取與批次處理。姑且算作八張 H100 等級的顯示卡，以每卡小時 2 美元的混合租用價格——這是 2026 年的中階市場數字，並非報價——那麼該節點每小時成本約 16 美元，若持續運行，每月約 11,700 美元。

現在來看吞吐量問題。稀疏 MoE 每個 token 啟用 140 億個參數，單一 token 的速度很快，所有稀疏模型都是如此；但批次處理的彙總吞吐量才決定你的單位成本，而百度並未公布這個檢查點的每秒 token 數。保守假設該節點在完整批次下每秒可持續輸出 4,000 個 token，那就是每小時 1,440 萬個輸出 token；以每小時 16 美元計算，約為每百萬個輸出 token 1.11 美元——這還沒計入利用率損失，還沒計入負責部署的工程師成本，也還沒計入流量下滑時的空閒時段。

以三分之一容量運行它——這是大多數真實部署在非高峰期所做的——實際成本就會變成三倍。誠實的總結是，自行託管 Flash Base 的成本大約落在每百萬輸出 token 一到三美元之間，取決於你把節點利用率填得多高——這個範圍橫跨 Light DT 的 $3.94，且在利用率高時能輕鬆勝過它。

這意味著 Light DT 的價格溢價並不是無知稅。它是 Baidu 為不必進行那項計算所收取的費用，也是為它所聲稱的一種壓縮方案所收取的費用——該方案能讓快取維持得夠小，使百萬 token 視窗在提供服務時仍負擔得起。如果你的流量尖峰起伏、量低，或大多屬於長上下文，那麼支付 $3.94 並讓別人承擔利用率問題，才是理性的選擇。

授權條款，而這正是 Flash Base 開始變得複雜的地方

Flash Base 的授權條款並非標準的寬鬆式授權，而且有三項條款比任何基準測試都更為重要。

• 地域。本授權適用於「全球所有地理區域，但不包括歐盟、英國與南韓」。在該地域之外使用權重或散布衍生作品，均不屬於所授予權利的範圍。若您有歐盟使用者、歐盟推論區域，或有歐盟員工接觸該模型，這是一項應與律師仔細審閱的重大障礙，而非腳註。

• 營收門檻。若與使用該模型之產品或服務相關的年營收低於 5,000 萬美元，商業使用免費，但須向 Baidu 發出一次性通知。超過該門檻者，在開始前須取得另行書面商業授權；若成長至跨越門檻，必須在跨越前取得授權，否則暫停受影響之使用。

• 署名。商業產品必須在易於存取的位置顯示確切字樣「Powered by ERNIE」——使用者介面、關於頁面，或針對 API 與後端服務的開發者文件。

對於任何計劃進行蒸餾的人，還有一項條款值得留意：該授權禁止使用這些材料或其輸出，來改進任何其他 AI 模型，但模型本身或其衍生模型除外。使用 Flash Base 的輸出訓練較小的學生模型屬於授權範圍；用這些輸出訓練不同架構則不屬於。

Light DT 完全沒有這些問題，因為它沒有需要授權的權重。你得到的是一份服務條款協議和一張費率表，這讓法務團隊需要處理的範圍小得多，也讓野心能施展的空間小得多。

能力：每一個在開箱即用時會做與不會做什麼

• 推理控制 — Light DT 提供四種投入等級（max、high、low、none），預設為 max。Flash Base 完全沒有推理模式；它是補全模型，任何推理行為都必須由你訓練加入。

• 工具呼叫 — Light DT 支援函式呼叫，並可強制工具選擇、結構化輸出與 JSON 回應格式。Flash Base 則支援你圍繞它實作的任何功能。

• 模態 — 兩者都是文字輸入、文字輸出。兩者都不接受圖片，也都不會幫你讀取掃描文件。

• 長上下文——Light DT 透過其壓縮快取設計，宣稱可支援 1,024,000 個 token。Flash Base 在微調與推論期間支援 1M，但在八張卡上跑到那個長度時，你的 KV 快取預算才是真正的硬性限制；而百度內建於 Flash 自身注意力機制中的壓縮設計——在其 43 層當中的 37 層採用重度壓縮注意力（Heavily Compressed Attention）——正是讓這件事得以可行的關鍵。

• {{1}}評估{{/1}} — Flash Base 公布完整的廠商表格：MMLU 93.3、MMLU-Pro 78.4、GPQA 60.2、HumanEval+ 82.3、LiveCodeBench 40.1、HELMET-RAG 71.5、LongBench-v2 48.7，這些是在同一套流程下，對照 DeepSeek-V4-Flash-Base、Hy3-preview-Base 與 MiMo-V2.5-Base 測得。這些是 Baidu 自家的數字，由 Baidu 執行，也應以此理解。Light DT 則完全沒有公布任何內容。

最後那句話，是對買家而言最重要的不對稱。Flash Base 至少讓你查證它的說法——下載權重、自己跑評估，看看廠商提供的表格在你的資料上是否成立。Light DT 則要你憑信心接受這套機制，因為唯一可得的證據只有一段產品文案。

路由器適用之處，以及不適用之處

這兩款模型目前都不在 OrcaRouter 的目錄中，若說它們在，這種事會害讀者白白浪費一週。路由器真正改變的，是決策的形態。

若採取 Flash Base 路線，你就是把資金與人力投入到一個品質可衡量、但服務成本無法控制的模型；而明智的架構，是讓託管模型留在相同介面之後作為備援，以備你的節點滿載、批次作業尚未暖機，或評估任務佔滿加速卡的日子。若採取 Light DT 路線，你等於綁定單一供應商的端點，背後沒有第二家供應商，價格變動時也沒有權重可遷移。

無論哪種方式，失敗模式都一樣：長上下文工作負載被綁定在單一模型上，無法比較替代方案原本會花費多少。這正是帶有各模型價目表的路由端點所解決的問題——不是替你做出選擇，而是讓選擇的成本按每次請求而非每季可見。

該選哪一個

如果你的問題在訓練而非服務，就選擇 ERNIE 5.5 Flash Base：你想要一個 280B 稀疏起點、打算對它進行微調、你的使用者和基礎設施位於歐盟、英國與韓國之外，而且你的營收低於門檻，或準備向百度申請授權。廠商基準測試表提供了站得住腳的基準，而權重意味著沒有人能把模型從你手中拿走。

如果重點在於上下文視窗，就選 ERNIE Light DT 1.0。透過壓縮快取提供一百萬個 token，加上可調的推理預算與工具呼叫，這是為特定工作打造的特定產品——長的檢索文件、長的代理對話記錄、長時間執行的工作階段——而支付每 token 的溢價來避免自行承擔快取預算，是合理的取捨。

如果你的提示詞很短，兩者都不要選。每次請求達 8,000 個 token 時，雙方那套架構說法都無關緊要；而每百萬輸入 token 要價 1.13 美元，不過是用昂貴許多的方式，去做一個價格只要十分之一的模型也能做得一樣好的事。