一張生成的主視覺標題卡,標題為「MiniCPM-V 4.7 35B-A3B vs MiniCPM-V 4.7」,副標題為「一個是檢查點,一個是宣傳橫幅」,下方有三張卡片,分別以「MiniCPM-V 4.7 35B-A3B」為標題、下方寫著「35.2B 稀疏 MoE,256 個專家中的 8 個,70.4 GB」;以「MiniCPM-V 4.7 1B」為標題、下方寫著「1.55B 稠密,單一檔案 3.1 GB」;以及以「openbmb/MiniCPM-V-4.7」為標題、下方寫著「無此儲存庫」,頁尾為「兩個檢查點皆採 Apache-2.0。裝置端與基準測試數據皆為廠商提供。」,右下角則有 OrcaRouter 標誌。
Guides & Insights

MiniCPM-V 4.7 35B-A3B 對比 MiniCPM-V 4.7:這些名稱中有一個不是模型

作者

Gideon Frost

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

搜尋 MiniCPM-V 4.7,你會找到一張模型卡、一張基準測試表、一個手機示範,還有一個下載按鈕。搜尋 MiniCPM-V 4.7 35B-A3B,你也會找到同樣的東西,因為它們是同一次發布——而這正是比較它們時的全部難處。OpenBMB 的模型卡開頭一句話就說清楚了:MiniCPM-V 4.7 是該系列的最新模型,提供 35B-A3B 變體,而 35B-A3B 是該系列首個 MoE。光禿的名稱是一面招牌,帶後綴的名稱是一個檢查點。把一個 350 億參數的稀疏專家混合模型放在一邊,再把一面招牌放在另一邊,你得到的不是比較,而是一個問題:你到底想下載哪個產物。回答這個問題後,本頁其餘內容就只是一張規格表。

名稱,已解析

有三樣東西都叫「MiniCPM-V 4.7」,但其中只有兩樣可以下載。

• openbmb/MiniCPM-V-4.7 —— 並不存在。該網址回傳的是授權錯誤,而不是權重頁面。這個名稱底下從來就沒有過未經包裝的檢查點,而把某一組數字冠上另一者標籤的報導,等於是把 35B 的數字掛在一個根本沒有對應儲存庫的名稱之下。

• 這個系列——由 OpenBMB 維護的 Hugging Face 集合,在 4.7 旗幟下收納了十三個儲存庫:基礎 35B-A3B 檢查點、其 GGUF 建置、FP8、AWQ、GPTQ 與 int4 量化版本、搭配的 DSpark 推測式草稿頭,以及小型模型同樣的六路階梯。當「MiniCPM-V 4.7」被當作產品線使用時,所指的正是這個集合。

• openbmb/MiniCPM-V-4.7-35B-A3B — 公告所指的檢查點,建立於 2026 年 10 月 7 日 07:07 UTC,採用 Apache-2.0 授權,並於 10 月 12 日新增完整模型卡。這是該系列中目前唯一附有廠商基準測試表的項目。

所以,對於「MiniCPM-V 4.7 與 MiniCPM-V 4.7 35B-A3B」這個問題,誠實的答案是:這個問題實際上歸結為同一系列內的變體選擇,而單靠系列名稱並不能讓你取得檔案。它真正能讓你取得的唯一檔案是 35B-A3B,這正是為什麼讀者一來就以為它們是同一回事。

這個發布實際上由什麼組成

OpenBMB 自己的 README 描述了兩個變體和一個共用的視覺塔,並將發布日期定為 2026 年 10 月 12 日——也就是權重上傳後的第五天和第六天。如果你要引用發布日期,這個時間差很重要。這些儲存庫建立於 10 月 6 日和 7 日;模型卡、授權標籤、圖表和公告全都在 12 日發布。參數並沒有在 12 日變動。變動的是文件。

文件涵蓋的內容,兩種變體皆適用:

• 兩個檢查點——一個 35B-A3B 稀疏 MoE 和一個 1B 稠密模型,共享一個系譜名稱與一座視覺塔,除此之外別無其他。

• 共享的視覺路徑——該家族自有的 minicpmv4_7_vision 塔,27 層、隱藏大小 1,152、patch 大小 14、影像大小 980,在第 6 層拼接進語言堆疊,並在其前方設有 OpenBMB 歸功於 LLaVA-UHD v4 的 ViT 內部早期壓縮。

• 混合 4x/16x 視覺 token 壓縮 — 可依每次請求選擇,預設為 16x 以追求吞吐量,4x 則用於保留細節。該說明卡指出,其比較表中沒有其他模型提供這種選擇,而且此設定必須同時傳遞給聊天模板與 generate 呼叫,否則佔位符數量與視覺編碼器會不一致。

• 一個不再只圍繞權重的部署故事——iOS、Android 與 HarmonyOS 目標平台,來自 Rockchip、Houmo、Intel、AMD 與 Arm 的首日晶片支援,Intel CPU/GPU/NPU 的 OpenVINO,以及橫跨 SGLang、vLLM、llama.cpp 與 Ollama 的框架支援。這裡的產品是應用程式與量化版本,而不是 BF16 下載檔。

這兩個檢查點,逐個維度

六個維度、雙方,並附註說明每個數字實際上值多少。

• 參數與形狀 — MiniCPM-V 4.7 35B-A3B:35,212,875,824 個儲存參數,稀疏,256 個專家,每個 token 啟用 8 個,專家中間大小為 512,外加一個相同大小的共享專家。MiniCPM-V 4.7 的 1B 變體:1,554,476,272 個參數,稠密,每一個都在每個 token 上啟用。這兩個總數不是同一種量,而且 MoE 的每個 token 啟用預算並未公佈,所以請把「A3B」讀作名稱的一部分,而不是可以拿來與稠密模型相比的測量值。

• 下載佔用空間——MiniCPM-V 4.7 35B-A3B:70.4 GB,以 BF16 格式分散在十六個 safetensors 分片,尚未計入任何 KV 快取。MiniCPM-V 4.7 1B:約 3.1 GB,位於單一權重檔中。一邊的下載量是另一邊的二十二倍,而這才是衡量這些之中哪一個能開箱即用於手機的誠實標準——兩者都不是,除非你從量化階梯中選用一種量化。

• 文字主幹與深度 — MiniCPM-V 4.7 35B-A3B:Qwen 系列的稀疏 MoE 文字堆疊,40 層、隱藏大小 2,048,十六個查詢頭對上兩個鍵/值頭,詞彙量 248,144。MiniCPM-V 4.7 1B:Qwen 系列的稠密文字堆疊,24 層、隱藏大小 1,024,八個查詢頭對上兩個鍵/值頭,詞彙量 248,094。相同的設計理念,只是再低一階。

• 注意力 —— 兩者皆是:線性注意力與全注意力固定以三比一的比例重複。35B 的四十層中有三十層走線性路徑,其餘十層採傳統路徑;1B 的二十四層中有十八層走線性路徑,其餘六層採傳統路徑。這正是兩個模型真正屬於同一架構、只是規模不同的面向,也是兩者都能承載 256K 上下文而不會讓 KV 快取爆炸的原因。

• 上下文 — 兩者:最大位置數皆為 262,144,並使用相同的 canvas 多模態旋轉嵌入模式。小型模型沒有變體稅,也沒有截斷。

• 授權 — 兩者皆是:Apache-2.0,於儲存庫前置資料中宣告,並在 README 中聲明。兩者也都在 Hugging Face 與 ModelScope 上發布。沒有條款差異需要權衡。

A generated two-column comparison scoreboard titled "MiniCPM-V 4.7 35B-A3B vs MiniCPM-V 4.7 1B - the scoreboard". The left column, MiniCPM-V 4.7 35B-A3B, lists Parameters 35.2B sparse MoE, On disk 70.4 GB BF16, Layers 40 with hidden 2048, Attention 30 linear / 10 full, Context 256K tokens and Licence Apache-2.0. The right column, MiniCPM-V 4.7 1B, lists Parameters 1.55B dense, On disk 3.1 GB BF16, Layers 24 with hidden 1024, Attention 18 linear / 6 full, Context 256K tokens and Licence Apache-2.0. The footer reads "Vendor-reported, unreproduced; neither checkpoint independently evaluated."

基準表是為其中一個而存在的

真正左右決策的不對稱點如下。35B-A3B 檢查點帶有 OpenBMB 的比較表——MMMU 約 80.2、OCRBench 約 91.2、OmniDocBench v1.6 落在九十幾分的高段、CharXiv 推論在七十幾分段、TextVQA 在八十幾分段——對照的是兩個 35B-A3B 等級的 Qwen 模型、一個 31B Gemma 和兩個 27B Qwen,且皆為 Instruct 模式。本文在該版本發布並留下文件記錄時,已討論過那些表格有多少價值;簡而言之:由廠商自行報告、由廠商自行以自家測試框架執行、未經重現,而且是從 PNG 圖表讀取,而非取自公開的成績表。

1B 在同一份文件中有自己的圖表,而該處的比較對象是較小的模型群。如果你正在這兩個尺寸之間做選擇,那些卡片給你的有用資訊並不是分數——而是較大的檢查點才是效率論述所針對的對象。支撐整個發布版本的裝置端數字——在 iPhone 17 Pro Max 上以約 3 GB 記憶體達到每秒 13 個以上的 token——是 35B-A3B 的數字,該數字是以 Lookahead Expert Scheduling 透過量化權重跨層預取專家所產生。小型稠密模型不需要那套機制,因為 15.5 億個稠密參數不需要其中任何一部分就能放進手機的工作記憶體。

這個反轉值得好好深思:小型模型簡單明瞭,但就基準測試而言缺乏紀錄;大型模型有大量紀錄,卻難以運行。這兩種處境都沒有明顯比較好。

哪一個才是大家真正會下載的?

Hugging Face 的計數器補上了一項兩張模型卡都未提及的事實,而且這項事實支持較大的模型。於 2026 年 10 月 13 日讀取時,基礎 openbmb/MiniCPM-V-4.7-35B-A3B 儲存庫顯示 630 次下載;-gguf 同一檢查點的建置版本則顯示略超過 10,000,約為其流量的十六倍。就 1B 而言,基礎儲存庫與其 GGUF 建置版本分別為 263 與 2,064,比例相近,但絕對規模小得多。

兩種解讀都與資料相符。要嘛人們先拉取量化版本,因為那才是實際能跑的;要嘛 BF16 的數字只是落後,因為 BF16 檢查點不是任何人會部署的東西。無論哪種情況,下載計數器衡量的都是哪個產物才重要——而那不是名稱裡帶著大小數字的那個。如果你要為這個決策評估規模,請以 GGUF 或 AWQ 版本來評估,而不是以 70.4 GB 來評估。

還有一項上架細節正好相反。兩個儲存庫都帶有承襲自 MiniCPM-V 家族其餘成員的「On-Device Model」標籤;而在 70 GB 的 BF16 MoE 上,這個標籤的意義唯有在量化與專家串流之後,才等同於它在 1B 的 3.1 GB 檔案上所代表的意義。請把這個標籤視為家族標籤,而非規格。

A screenshot of the Hugging Face model page for openbmb/MiniCPM-V-4.7-35B-A3B (captured 13 October 2026), showing the model header with 267 likes, the tag chips including minicpmv4_7, minicpm-v, multimodal, On-Device Model, lightweight, Mixture of Experts and conversational, the apache-2.0 licence line, the 'Downloads last month' and 'Safetensors' sidebar, the tabs Model card, Files and versions, Community and Deploy, and the start of the model card text reading 'MiniCPM-V 4.7 is the latest model in the MiniCPM-V series, available in a 35B-A3B variant, with 35B-A3B being the first MoE model in the MiniCPM-V series.'

在託管 API 改變問題本身的情況下

這兩個 checkpoint 都沒有託管在 OrcaRouter 上,而在這次比較中,這最終成了具決定性的結構性事實。兩者都是你自己部署的開放權重,這意味著 35B-A3B 需要你大概沒有的硬體,而 1B 需要的硬體你肯定有——而「某張 GPU」與「一支手機」之間的差距,才是「35B-A3B vs 4.7」的真正內涵。

路由器真正發揮價值的地方是邊界。如果你選了 1B,而它不足以應付某個請求,工作就必須轉往某處,而那個某處通常是你不會想按供應商逐一管理的託管模型:OrcaRouter 涵蓋 數百個託管模型,只要一組金鑰即可使用,並以各供應商的定價提供,沒有任何額外加價,還能在某個供應商效能下降時於供應商之間容錯移轉。其中一個託管 ID,qwen/qwen3.6-35b-a3b,正是本文所談檢查點的直接託管對應版本——相同的 35B-A3B 架構,無需擁有加速器即可存取,這讓它成為在把 70 GB 自身磁碟投入本地版本之前,用來測試的天然上限。

那是路由決策,不是第二次整合,而它是這個選擇中唯一可以零成本逆轉的部分。

精選

如果限制條件是手機、筆電或單張小型 GPU,1B 就是唯一的候選——3.1 GB、允許商業使用的授權,以及自第一週便開始推出的量化階梯。如果目標是 OpenBMB 真正在爭論的效率結果,你要的是 35B-A3B,而且你要的是量化版本,而不是 70 GB 的原始版本,因為那是其他所有下載者所採用的,也是裝置端宣稱所測量的對象。

你不該做的是把這兩個名稱當成可以互換。其中一個是你今天下午就能執行的檢查點。另一個則是無論你原本指的是這兩者中的哪一個,都會一直回傳 35B-A3B 模型卡的標籤。

A screenshot of the OpenBMB/MiniCPM-V GitHub repository (captured 13 October 2026) showing the repository header with 40 issues, 21 pull requests, 26.6k stars and 21k forks, the description 'See, hear, and interact on your local devices.', the branch selector on main with 4 branches and 1 tag, and the file listing whose most recent commits are dated hours ago and read 'Merge pull request #1145 from lmc8133/main', 'docs: simplify release hero model labels' and 'docs: add LES and SRFT links, note 3GB iPhone memory'.

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新