MiniCPM-V 4.7 与 Moondream 3.1 9B A2B：其中一款失去 API 前的一周

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

每个模型实际上究竟是用来做什么的

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 押的是相反的方向。它能处理单图、多图和视频，支持 25 万 token 的上下文，并用语言作答。OpenBMB 公布的是理解类指标：MMMU 80.2、OCRBench 91.2、CharXiv 推理 75.6、LongVideoBench 68.9、MathVerse 86.5。模型卡中没有任何 point、detect 或 segment 原语。如果你想给猫画个框，就用文字提出请求，再解析这些文字。

• 上下文 — Moondream 3.1 9B A2B 为 32,768 个 token，而 MiniCPM-V 4.7 35B-A3B 为 262,144 个 token。

• 输入 — Moondream 每次调用一张图像，而 MiniCPM 支持单图、多图和视频。

• 输出形式——Moondream 提供结构化查询、caption、point、detect 和 segment 结果，而 MiniCPM 则为自由文本。

• 许可 — Moondream Model License 1.0 允许商业使用、自托管与微调，并限制将通用 Moondream 推理作为托管服务提供；MiniCPM-V 4.7 采用 Apache-2.0 许可，无此类条款。

• 磁盘上的权重——Moondream 的 9B 稀疏检查点，相比之下，MiniCPM-V 4.7 35B-A3B 的 BF16 权重约为 70 GB，分布在 16 个分片中；而 1B 版本为 3.1 GB。

11月13日的悬崖，以及真正会改变什么

该收购由 Prime Intellect 于 2026 年 10 月 13 日宣布，Moondream 于次日宣布。开放权重在同一许可证下继续保持开放，通过 Photon 自托管仍然免费，Moondream 作为 Prime 内部小型多模态模型的品牌继续存在。终止的是托管云服务：推理和 Lens 微调均于 11 月 13 日结束，未使用的额度将予以退还，客户被引导至收购方的平台。

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 从来没有那一层托管层。唯一的第一方服务路径是 OpenBMB 自家的 ModelBest API，esp32-eye 猫咪监控版本正是用它来做 35B 身份校验；其余则是运行在你自有硬件上的 vLLM、SGLang、llama.cpp 或 Ollama。这意味着前期工作量更大，但受别人公司日程牵制的风险更小。考虑到过去三十天的情况，第二点是有价值的。

从未达成的基准

There is no shared benchmark between these two models, and the two tables measure different competences. Moondream's numbers are its own, measured with its own Photon engine on a single H100 at batch 16, and the tasks are detection and counting: 81.46 on COCO, 93.94 on ODinW-13, 74.61 on Dense200, 90.35 on CountBench, 88.68 on PixMo-Count, 87.1 on RefCOCO-M. Its document numbers — 88.6 DocVQA, 86.01 ChartQA — are respectable and well below its detection scores. Its maths is simply absent: the release notes report no GSM8K or other arithmetic benchmark at all, so there is no maths number to compare and no evidence either way.

MiniCPM 的数据来自 OpenBMB，以散文式项目符号和图表图片的形式发布在厂商的模型页面上，既没有数值表格，也没有独立复现。它的强项与 Moondream 正好相反：91.2 OCRBench、75.6 CharXiv 推理、68.9 LongVideoBench、80.2 MMMU。它未公布检测 F1、计数得分，也没有抠图或分割结果，因为它原生并不做这些任务。

它们唯一能比较的地方是 OCR，而即便在那里，评测框架也不相同。Moondream 在 DocVQA 上报告 88.6，这是文档问答分数；MiniCPM 在 OCRBench 上报告 91.2，这是文本识别分数。这两者不是同一个测试，不应该相减。任何把它们放进同一列的人，得出的都是一个毫无意义的数字。

每一个在哪里出问题

Moondream 有文档记录的局限具体且有用：文本小于约十像素、物体小于约十二像素、单帧中超过五十个实例，以及不支持原生视频。这些是一个感知基元的边界，而且很诚实。如果你的图像是商品照片、货架照片、航拍画面或拥挤场景，它们会在你真正踩坑之前就描述出你的失效模式。

MiniCPM-V 4.7 的限制记录得没那么清晰，这本身就是一项发现。模型卡声称，在 iPhone 17 Pro Max 上以约 3 GB 内存实现每秒 13 个或更多 token 的端侧推理；这一数字依赖于 Lookahead Expert Scheduling、逐层量化和 DSpark 推测解码协同工作，且尚无第三方复现。esp32-eye 构建是最详细的公开部署，它发现 1B 同类模型在区分四只相似的猫时不可靠，于是将身份识别任务转移到 35B。这是一个有用的负面结果：小变体是存在检测器，而非细粒度识别器。

此外还存在硬件层面的不对称。Moondream 3.1 是一个 9B 稀疏模型，通过 Photon 可以轻松地在单块现代 GPU 上运行，其引擎正是厂商能够宣称在批次大小为 16 时达到每秒 34 个请求的原因。MiniCPM-V 4.7 35B-A3B 要么需要大量显存，要么需要 OpenBMB 为手机打造的流式专家机制，而 1B 的同系列型号几乎不需要什么资源。在硬件层面于两者之间做选择，实际上是在一个中等规模模型和一个双尺寸家族之间做选择。

如果你本周正在实施

决策树很短。如果你的任务是“查找、计数或勾勒对象并返回坐标”，那么 Moondream 3.1 9B A2B 是更直接的工具，而 11 月 13 日这个日期只改变了你在哪里运行它：通过 Photon 自托管，且许可证禁止转售通用 Moondream 推理。如果你的任务是“阅读这份文档、这个仪表盘或这段视频，并告诉我它说了什么”，那么 MiniCPM-V 4.7 35B-A3B 更合适，而且这始终是一个自托管决策。

如果你不想对任何一种承诺作出承诺，务实的做法是：阅读类工作使用托管的通用模型，同时在你自己的数据上评估开放权重模型。这正是路由器能派上用场的地方：OrcaRouter 提供200 多个模型，均可通过一个密钥访问，在提供商目录价基础上加价 0%，并具备自动故障转移，因此流水线不会受制于单一上游能否继续存在。目前该目录中既没有 Moondream 3.1 9B A2B，也没有 MiniCPM-V 4.7，所以这是关于周边架构的建议，而不是声称我们提供其中任一模型。

过去一个月所表明的是：模型是否可用，如今已经是一个供应链问题。一个模型可以非常出色、权重开放、文档完备，却仍然可能因为打造它的公司被收购，而在接到三十天通知后失去其托管端点。那些应对得当的团队，是代码中把基础 URL 放在配置文件里、并在其后备有第二个选项的团队。

比较公允的总结是：它们并不是彼此的替代品。Moondream 3.1 9B A2B 是一个感知组件，其托管形态上有一只时钟在走；MiniCPM-V 4.7 是一个阅读模型，有两种尺寸，也没有会失去的托管形态。先选任务，再选模型，然后确认你选中的那个东西下周五是否还能作答。