
MiniCPM5-15B-A2.5B:四種執行環境皆已移植,卻無人能下載
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百萬 tokens · 189 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百萬 tokens · 204 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 132 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百萬 tokens · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百萬 tokens · 118 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 93 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 211 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百萬 tokens · 168 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
2026-11-16,llama.cpp 出現了一個標題為「xcy/models:新增 MiniCPM5 MoE 推論支援」的 pull request。這是一項縝密的工作——新增架構項目、轉換路徑、測試——而它的驗證章節中有一行讓維護者停了下來:作者曾在 H800 上以「既有的 MiniCPM5-15B-A2.5B GGUFs」執行過它。CISC 問了那個顯而易見的問題。據我所知,還沒公開?tc-mb 的 GitHub 個人檔案列出其為 MiniCPM-V 與 MiniCPM-o 專案成員,他只回了一個詞:「ok」。該 pull request 兩天後在未合併的情況下被關閉,而那些 GGUFs 所屬的模型——OpenBMB MiniCPM5 系列中的稀疏混合專家版本 MiniCPM5-15B-A2.5B——至今仍沒有儲存庫、沒有模型卡、沒有授權條款檔案,也沒有任何我們能在各處找到的公告。
這是一篇「目前所知」的整理文章,而證據的樣態比平時更重要。沒有產品頁可讀,也沒有廠商基準測試可爭辯。現有的是來自四套獨立推論堆疊的一組引擎修補,由手上握有該檢查點的人所寫,外加他們的測試日誌。這足以相當精確地描述 MiniCPM5 MoE 的架構,並對其支援成熟度做出誠實說明。但這不足以告訴你這個模型的分數、成本,或何時可以運行它。
名稱被允許告訴你的內容
檢查點名稱是 ModelBest 以外任何人唯一公開過的規格表。MiniCPM5-15B-A2.5B 讀作 15B 總參數、每個 token 2.5B 啟用參數——這是自 Mixtral 以來,這個尺寸級別中每個稀疏 MoE 都採用的總數與啟用數慣例。任何修補程式中都沒有與之矛盾之處,而 SGLang 移植版自身的測試註記提到「原始 15B 檢查點設定」無需修改即可解析,這點與之一致。
在那之後的一切都只是猜測,而值得直截了當地說明原因。SGLang 修補程式新增了一個 MiniCPM5Config 類別,其預設值顯示為 32 層、4,096 隱藏維度、32 個注意力頭、64 個路由專家、2 個共享專家,以及寬度 1,407 的專家 FFN。那些是從 GLM-4 範本繼承來的類別預設值,不是該檢查點的值——同一個檔案預設為 32,000 個權杖的詞彙表,而沒有任何 2026 年接近前沿的模型曾以這樣的詞彙表發布。不要把它們當成規格來讀。唯一看起來可能是真的數字,是路由縮放因子 3.66,它出現在 llama.cpp 架構測試與轉換測試 fixture 中;fixture 終究只是 fixture,因此請把 3.66 視為「測試所圍繞著撰寫的數字」,而不是已確認的常數。
架構,從四份修補程式讀出
四個獨立移植版本都得出相同描述,這是這次外洩最令人安心的地方。SGLang 的修補最為明確:該模型「遵循 GLM-4.5 MoE,但有三處不同」——閘控注意力、完整旋轉嵌入且不進行 q/k 正規化,以及路由器以模型自身的 dtype 計算,而非向上轉型。
• 門控注意力 — query projection 會連同 query 一起輸出每個 head 的 sigmoid gate,並交錯排列在每個 head 的列內。llama.cpp 的轉換必須逐個 tensor 將它們分開,這就是為什麼這兩個移植版本都特別指出這一點。
• 稠密前導,然後是專家——前 first_k_dense_replace 層是一般 FFN;只有其後的層才會路由。tc-mb 的 fork 修補說明指出,現有的 qwen35moe 與 minicpm 架構都無法對應這種形狀,這就是為什麼 MiniCPM5 MoE 需要有自己的架構條目,而不是在現有架構上加一個旗標。
• 路由專家加上共享專家——sigmoid 閘控、正規化 top-k 權重,以及與路由專家並行的共享專家分支。llama.cpp 會針對每個 MoE 層讀取一個 FP32 路由器修正偏誤(e_score_correction_bias),這與 DeepSeek 風格路由器用來維持專家負載平衡的偏誤項相同。
• 完整旋轉式,無 q/k 正規化——在頭維度上套用單純的 RoPE,轉換時明確保留頭維度,而不是由隱藏大小除以頭數推導而來。

DSpark 是這個故事的後半段,也是這起外洩之所以有趣、而不只是整理得井然有序的原因。DSpark 是一種搭配受訓草稿模型的推測式解碼——與 OpenBMB 已為 MiniCPM5-2B 和 MiniCPM-V 4.7 推出的演算法相同——而 SGLang 與 llama.cpp 兩份修補程式都將 MiniCPM5 MoE 加為 DSpark 的目標。llama.cpp 文件範例中引用了一個名為 MiniCPM5-15B-A2.5B-DSpark 的獨立草稿檢查點,這表示無論目標模型存放在哪個私有儲存庫中,草稿模型也同樣存在於該處。
四款引擎,一個未發布的檢查點
時程才是這件事值得動筆的原因。移植通常不會在版本發布前這麼早,就橫跨這麼多技術堆疊:
• 2026-09-17 — MUSA 分支上的 Megatron-LM 修補程式讓 MoE 容量因子處理與無丟棄路由(dropless routing)成為「minicpm5」的預設。這屬於訓練端,也是我們找到的最早痕跡。
• 2026-10-14 — InfiniTensor 的 InfiniLM 提交了一項修補程式,讓 MiniCPM5 MoE 能在登臨 QY 後端上執行,並搭配 FlashAttention 與長上下文 MoE/RoPE 核心;2026-11-12 的後續更新新增了 CUDA graph 擷取的安全性,以及 bf16 解碼路徑。
• 2026-11-13 — tc-mb 的 llama.cpp-omni 分支新增 MiniCPM5 MoE 架構,且同日第二個修補程式將專家區域接入量化器。驗證章節回報 法國的首都是補全為巴黎。以及 17×23 傳回 391。
• 2026-11-16 — 上游 llama.cpp 的 Pull Request。於 2026-11-18 關閉,未合併;轉換路徑被排除在範圍之外,並於三天後在 fork 中重新檢視。
• 2026-11-19 — SGLang 在 09:39 開啟一個連接埠,關閉它,並在 10:19 於重新命名的分支下重新開啟它。同一個上午,一位 Intel 工程師開啟了一個 optimum-intel 修補程式,其第一個程式碼區塊正是一條匯出命令,將 openbmb/MiniCPM5-15B-A2.5B 指定為其輸入。

最後那個幾乎就是確鑿證據。optimum-intel 的修補程式並不是在描述一個假想模型——它會執行 optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4,並回報相對於原始模型的準確率。寫出這段的人手上握有權重。它指名的 Hub 路徑對匿名請求不會傳回任何內容,而 OpenBMB 自家的 MiniCPM README 仍把 2026-09-07 和 2B 列為最新版本,其模型表裡也完全沒有 MoE 條目。
測試日誌實際顯示了什麼
這是需要慢慢閱讀的部分,因為這些修補程式裡的數字是工程檢查,不是基準測試,而且其中兩項是失敗的。
llama.cpp 的執行最為全面。BF16、Q8_0 與 Q4_K_M 權重皆在 H800 上產生並接受 DSpark 草稿 token,草稿設定為 --spec-draft-n-max 2。八個 tokenizer 樣本與 Hugging Face tokenizer 完全相符。在合成架構測試中,CPU 對 CUDA 的 NMSE 為 1.00e-06。接著是但書,用作者自己的話說:一般貪婪解碼與 DSpark 解碼「顯示出 token 層級差異」,原因「尚未完全釐清」,且輸出等價性「尚未確立」。沒有對原始檢查點執行 logits 對等性測試,沒有品質評估,也沒有效能數字。作者明確表示,並未宣稱任何加速。
SGLang 這次執行更具資訊性,因為它隔離了一個變數。使用 Triton attention 時,DSpark 在四次 64-token 生成中執行了 93 個驗證步驟,並且在每個提示上都與一般解碼產生分歧。使用 FA3 attention 時,相同的 15B checkpoint 與 draft 在全部四次上都產生相符的貪婪 token ID。就目前所寫的修補程式而言,Triton 的差異仍未解決。請按它的本質來理解:這是有人發現但尚未解釋的核心路徑差異,而不是關於該模型的陳述。
OpenVINO 的數字是整組中唯一的量化品質訊號,而且它們並不算亮眼。以原始 FP32 模型為基準,在 26 個提示與 128 個新 token 上,WWB 文字相似度分數在 CPU 上為:bf16 是 0.9934,GenAI SDPA 後端下的 int8 是 0.9455、int4 是 0.8710;在 B70 GPU 上,int8 是 0.9498、int4 是 0.8646。int4 轉換落在 0.87,這是轉換保真度的結果——它說明的是量化後的計算圖偏離了參考模型,而不是參考模型很好。目前沒有人發表 MiniCPM5-15B-A2.5B 的基準測試分數;在有人這麼做之前,沒有依據稱它強或弱。

如果它要推出,它會放在哪裡
OpenBMB 的 MiniCPM5 系列到目前為止,是一場關於密度的論證。1B 於 2026-05-19 推出,2B 則於 2026-09-07 推出,兩者皆為稠密模型、皆採用 Apache-2.0,且皆為裝置端部署而打造——2B 是單純的 LlamaForCausalLM,沒有自訂核心,這正是它能在數週內移植到 llama.cpp、MLX、ONNX 以及半打 NPU 工具鏈的原因。一個總參數量 15B、啟用參數量 2.5B 的同系列成員,會是第一款不屬於邊緣模型的 MiniCPM5:與 2B 相同的啟用參數預算、約六倍的儲存權重,以及一個必須被妥善服務,才值得佔用其記憶體的路由層。
那種說法也解釋了這次外洩為何呈現奇怪的樣貌。如果 MiniCPM5 MoE 的目標是 serving 而非手機,那麼引擎移植就不是發布後才附帶提供的加分項,而是發布的先決條件,而且有人正提前進行這些移植。同一個 GitHub 帳號開設了 llama.cpp 與 SGLang 的移植、一位 MiniCPM 專案成員正在合併 fork 的修補程式,以及 DSpark 已有草稿檢查點,這些事實全都指向同一方向:這是一個由能取得該模型的人正準備發布的模型,而不是從變更日誌拼湊出來的謠言。
什麼會改變這幅景象?
三件事,依它們能解決問題的程度排序。
首先,一個儲存庫。一個帶有設定、授權條款和模型卡的 Hub 或 ModelScope 頁面,會把上一段的大部分內容從推論轉為事實,並且會立刻讓我先前警告過的設定預設值有可供核對的依據。
第二,第一手來源基準。MiniCPM5-2B 的卡片載有 53.9 的套件平均,以及 LiveCodeBench、AIME 和 SWE-bench 的逐項任務數值;一款沒有對應表格的 15B-A2.5B,其整體價值主張便無從衡量。Artificial Analysis 的收錄就能做到這點,因為它獨立於廠商。
第三,已合併的移植版本。本文描述的每個修補程式不是已關閉、草稿,就是放在私人分支上。只存在於尚未合併的拉取請求中的支援,是你無法安裝的支援;而且——正如 Triton 與 FA3 的分歧所示——這個架構上的正確性仍在逐個核心建立中。
對今日的讀者來說,實際後果很簡單:無需下載、無需呼叫、無需遷移。像這樣的模型真正問世時,所改變的是工作負載該在哪裡執行的決策,而這項決策通常是在時間壓力下、憑著不完整的證據做出的——這正是路由層存在的理由。200+ 個託管模型置於單一 API 之後,以供應商定價提供且不額外加價,因此你想做的比較——把這個檢查點與你目前呼叫的任何模型相比——一旦有人託管它,架設起來不花任何成本;自動容錯移轉意味著剛推出首週的模型永遠不必獨自撐起生產路徑。這些都不需要 MiniCPM5-15B-A2.5B 已經可用,我們也不提供它——它是在某個尚未發布的模型證明自身期間,圍繞你已依賴的模型所設的安全網。
在那之前,誠實的總結就是 llama.cpp 討論串給我們的那個:GGUF 確實存在,但它們並未公開。四個執行環境已經寫好載入它們的程式碼。請依序關注 OpenBMB 組織頁面和那兩個開啟中的 pull request——儲存庫出現就是訊號,而合併的移植則確認這個架構正如這些修補所說的那樣。
