MiniCPM-V 4.7 對上 Moondream 3.1 9B A2B：其中一款即將失去 API 的一週前

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

每個模型實際上是用來做什麼的

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 則是反向押注。它可接收單張影像、多張影像與影片，能容納 25 萬個 token 的上下文，並以語言作答。OpenBMB 公布的是理解能力分數：MMMU 80.2、OCRBench 91.2、CharXiv 推論 75.6、LongVideoBench 68.9、MathVerse 86.5。模型卡中沒有點、偵測或分割這類基本原語。如果你想要一個框住貓的方框，就用文字提出要求，再解析這些文字。

• 上下文 — Moondream 3.1 9B A2B 為 32,768 個 token，而 MiniCPM-V 4.7 35B-A3B 則為 262,144 個。

• 輸入 — Moondream 每次呼叫僅支援一張影像，MiniCPM 則支援單張、多張影像與影片。

• 輸出形式 — Moondream 提供結構化查詢、描述、點、偵測與分割結果，而 MiniCPM 則為自由文字。

• 授權條款 — Moondream Model License 1.0 允許商業使用、自行架設與微調，並限制將通用型 Moondream 推論作為託管服務提供；MiniCPM-V 4.7 則採用 Apache-2.0，且無此類條款。

• 磁碟上的權重 — Moondream 的 9B 稀疏檢查點，對比 MiniCPM-V 4.7 35B-A3B 分散在 16 個分片中的約 70 GB BF16 權重，或是其 1B 版本僅 3.1 GB。

11月13日的懸崖，以及實際上有什麼改變

這項收購由 Prime Intellect 於 2026 年 10 月 13 日宣布，Moondream 則在隔天公布。開放權重仍依相同授權維持開放，透過 Photon 自架服務依然免費，Moondream 也繼續作為 Prime 旗下小型多模態模型的品牌。結束的是託管雲端服務：推論與 Lens 微調都將於 11 月 13 日終止，未使用的額度將退還，客戶則被引導至收購方的平台。

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 從來沒有那層託管層。唯一的第一方服務路徑是 OpenBMB 自家的 ModelBest API，esp32-eye 貓咪監控版本就是用它來做 35B 的身分驗證，其餘則是跑在你自行提供的硬體上的 vLLM、SGLang、llama.cpp 或 Ollama。這代表前期工作更多，但更不容易受制於別家企業的時程安排。考量到過去三十天的情況，第二個特性確實有它的價值。

永遠無法達成的基準

There is no shared benchmark between these two models, and the two tables measure different competences. Moondream's numbers are its own, measured with its own Photon engine on a single H100 at batch 16, and the tasks are detection and counting: 81.46 on COCO, 93.94 on ODinW-13, 74.61 on Dense200, 90.35 on CountBench, 88.68 on PixMo-Count, 87.1 on RefCOCO-M. Its document numbers — 88.6 DocVQA, 86.01 ChartQA — are respectable and well below its detection scores. Its maths is simply absent: the release notes report no GSM8K or other arithmetic benchmark at all, so there is no maths number to compare and no evidence either way.

MiniCPM 的數字來自 OpenBMB，以文字條列與圖表圖片的形式發布在廠商的模型頁面上，沒有數值表格，也沒有獨立重現。它的強項與 Moondream 相反：91.2 的 OCRBench、75.6 的 CharXiv 推理、68.9 的 LongVideoBench、80.2 的 MMMU。它未公布偵測 F1、計數分數，也沒有去背或分割結果，因為它並非原生支援這些功能。

唯一能比較的地方是 OCR，而且即使在這裡，測試框架也不同。Moondream 在 DocVQA 上報告 88.6，這是文件問答分數；MiniCPM 在 OCRBench 上報告 91.2，這是文字辨識分數。這兩者不是同一項測試，不應相減。任何把它們放在同一欄的人，產生的數字毫無意義。

各自斷裂之處

Moondream 已記載的限制具體且實用：文字小於約十像素、物件小於約十二像素、單一畫面中超過五十個實例，以及不支援原生影片。這些是感知基元的邊界，而且它們很誠實。如果你的圖像是產品照片、貨架照片、空拍畫面或擁擠場景，它們會在你實際遇到之前，就先描述你的失效模式。

MiniCPM-V 4.7 的限制記載得沒那麼清楚，而這本身就是一項發現。模型卡宣稱，該模型可在 iPhone 17 Pro Max 上以每秒 13 個或更多 token 的速度進行裝置端推論，並使用約 3 GB 記憶體；這個數字取決於 Lookahead Expert Scheduling、逐層量化與 DSpark 推測解碼共同運作，而且尚無第三方重現。esp32-eye 版本是最詳細的公開部署，它發現 1B 同系列模型在區分四隻相似的貓時並不可靠，於是將身分判定轉移到 35B。這是有用的負面結果：小模型是存在偵測器，而非細粒度辨識器。

另外還有硬體上的不對稱。Moondream 3.1 是 9B 稀疏模型，透過 Photon 可輕鬆在單一現代 GPU 上運行，而其引擎正是廠商能宣稱在批次 16 下達到每秒 34 個請求的原因。MiniCPM-V 4.7 35B-A3B 則需要大量 VRAM，或 OpenBMB 為手機打造的串流專家機制，而 1B 的兄弟版本幾乎不需要什麼資源。在硬體層面從兩者中做選擇，實際上是在一個中型模型與一個雙尺寸家族之間做選擇。

如果你這週正在實作

決策樹很短。如果你的任務是「尋找、計數或描繪物件並回傳座標」，Moondream 3.1 9B A2B 是更直接的工具，而 11 月 13 日這個日期只會改變你執行它的地點：透過 Photon 自行託管，且授權條款禁止轉售通用型 Moondream 推論服務。如果你的任務是「閱讀這份文件、這個儀表板或這段影片，並告訴我內容說了什麼」，MiniCPM-V 4.7 35B-A3B 更合適，而且這一直都是自行託管的決定。

如果你兩種承諾都不想要，務實的做法是：在閱讀工作上採用託管的通用模型，同時用自己的資料評估開放權重模型。這正是路由器發揮價值之處：OrcaRouter 以單一金鑰提供超過 200 個模型，價格為供應商定價的 0% 加成，並具備自動容錯移轉，因此管線不會綁定於單一上游的存續。Moondream 3.1 9B A2B 與 MiniCPM-V 4.7 目前都不在該目錄中，所以這是關於周邊架構的建議，並非聲稱我們提供其中任一模型。

過去一個月顯示，模型可用性如今已是供應鏈問題。一個模型可以很優秀、採開放權重且文件完善，卻仍可能因為打造它的公司被收購，而在三十天通知期後失去其託管端點。處理得好的團隊，是那些程式碼把基礎 URL 放在設定檔裡、並在後面備有第二個選項的團隊。

公平的總結是，這些並不是替代品。Moondream 3.1 9B A2B 是一個感知元件，其託管形式正在倒數計時；MiniCPM-V 4.7 是一個閱讀模型，有兩種尺寸，且沒有託管形式可失去。先選任務，再選模型，然後確認你選的東西下週五是否還能回應。