一张标题为“Molmo2-4B vs Moondream 3”的主视觉卡片,眉题为“Moondream Cloud 将于 2026 年 11 月 13 日关停”,副标题为“一个托管选项将在七天后关闭”。Molmo2-4B 卡片列出了 4.85B 稠密参数、36,864 个位置、图像/多图像/视频、带时间戳的点以及 Apache 2.0 权重。Moondream 3.1 卡片列出了 9.0B 总参数、2.0B 激活参数、32,768 个 token、每次调用一张图像以及 Moondream License 1.0。页脚写着“两家供应商均未发布共享基准。”OrcaRouter 标志位于插图下方的白色条带中。
Guides & Insights

Molmo2-4B 对比 Moondream 3:一个托管选项将于11月13日关闭

作者

Magnus Corvin

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

这个对比附带一个日期,而它就在一周之后。Moondream Cloud——公司中负责推理和 Lens 的业务部分——将于 2026 年 11 月 13 日关停,即 Moondream 宣布被 Prime Intellect 收购后的第三十天。未使用的已购额度正在退款。如果你曾基于 Moondream 3 托管端点构建应用,实际问题已不再是“Molmo2-4B 还是 Moondream 3”,而是“我该自己运行哪一套开放权重”。两个模型都在关停后继续存在。只有其中一个曾拥有可失去的托管 API。

值得精确说明这里比较的是哪个 Moondream,因为这个名字被用得比较宽泛。Moondream 3 Preview 于 2025 年 9 月上线 Hugging Face。当前版本是 Moondream 3.1,于 2026 年 7 月 7 日以 moondream3.1-9B-A2B 发布,本文将其视为“Moondream 3”。Molmo2-4B 是另一方:由 Allen Institute for AI 于 2025 年 12 月 11 日发布,权重于 12 月 14 日上线,权重采用 Apache 2.0 许可,并明确警告训练数据仅限学术和非商业研究使用。Ai2 从未为其提供托管 API,而这一点最终证明很重要。

Molmo 方面真正近期发生的事情并不是一次发布。2026 年 10 月 9 日,Molmo2 架构被合并进上游 Transformers,并于 10 月 15 日随 v5.20.0 发布,因此该模型不再需要 trust_remote_code=True。11 月 5 日,Ai2 发布了 Molmo2-4B-tb,这是针对积木堆叠机器人对该检查点进行微调后的版本。这两件事都没有让 Molmo2-4B 成为新模型,也没有改变它的资源占用规模。

什么会留存下来,什么不会

权重不会消失。Moondream 以 Moondream Model License 1.0 发布 moondream3.1-9B-A2B,并发布其自研推理引擎 Photon,用于在 Ampere 或更新架构的 NVIDIA GPU 以及 Apple Silicon 上进行本地部署。该许可证允许商业使用、微调、量化、再分发、边缘部署和客户自控的 VPC。它禁止的只有一件具体的事:在没有单独商业许可证的情况下,向第三方提供通用的托管式 Moondream 服务。

该条款正是关停比乍看之下更重要的原因。一个原本调用 Moondream Cloud API 的团队,无法直接为自己的客户搭建同样的端点。他们可以在自己的产品内运行 Moondream,也可以在可控的基础设施上运行它,但“Moondream 即服务”恰恰是许可证所保留的内容。如果端点就是产品,那么 11 月 13 日就是一次许可事件,而不只是迁移。

Molmo2-4B 没有对应的陷阱,因为它从来就没有过托管版本可供失去。权重许可证是 Apache 2.0,限制反而体现在数据声明中:Ai2 的模型卡称,该模型“基于受学术和非商业研究用途限制的第三方数据集训练”,并建议你查阅这些来源。两个模型都不是干净的“直接发布即可”——一个限制你能提供什么,另一个限制训练谱系能支撑什么。

内里是两台不同的机器

• 参数——Molmo2-4B 为 4,850,869,200 稠密参数;Moondream 3.1 总参数 9.0B,每个 token 激活 2.0B,采用八个专家的混合架构,配备 top-2 路由外加一个共享专家。

• 权重体积 — Molmo2-4B 的 float32 safetensors 为 19.42 GB,共四个分片;Moondream 3.1 通过 Photon 和 Hugging Face 分发,厂商强调其运行时占用小,而非下载包体积大。

• 上下文 — Molmo2-4B 为 36,864 个位置;Moondream 3.1 为 32,768 个 token。

• 输入支持范围——Molmo2-4B 支持图像、多图像和视频;Moondream 3.1 每次调用只接受一张图像,且没有原生视频处理路径。

• 输出约定——Molmo2-4B 返回按图像尺寸 0–1000 缩放的坐标点,在视频模式下附带时间戳,并提供用于解析的文档化正则表达式;Moondream 3.1 提供四项具名技能——query、detect、point、caption——每项均返回结构化 JSON。

• 许可 — Molmo2-4B 的权重采用 Apache 2.0,但附带第三方数据注意事项;Moondream 3.1 采用 Moondream Model License 1.0。

输出行是最有意思的差异,也是讨论最少的。Molmo2-4B 的点是一串原始坐标流,需要你解析并做后处理。Moondream 3.1 的技能则是一份 API 契约:detect 返回对象,point 返回点,caption 返回说明文字,而且返回结构不会随提示词变化。一个是你要在其上构建的模型;另一个是你要调用的服务。相比任何基准测试行,这种设计差异更能预测哪一个适合你的代码库。

A two-column comparison scoreboard titled 'Molmo2-4B vs Moondream 3 - the scoreboard'. The Molmo2-4B column reads Parameters 4.85B dense, Weights 19.42 GB float32, Context 36,864 positions, Video yes 384 frames, Output points with regex, Licence Apache 2.0 plus data caveat. The Moondream 3.1 column reads Parameters 9.0B total 2.0B active, Weights 9B mixture of experts, Context 32,768 tokens, Video no one image per call, Output JSON query detect point caption, Licence Moondream Model License 1.0. The footer reads 'Vendor-reported figures. Moondream Cloud closes 13 November 2026.' The OrcaRouter logo sits in a white strip below the artwork.

不共享测试框架的分数

Moondream 为 3.1 发布了一张内容详实的表格,值得精确引用,因为大多数摘要都对其做了四舍五入。以下数据由厂商报告,且全部基于 Moondream 自己的评估:COCO 检测 [email protected] 为 81.46,ODinW-13 为 93.94,LVIS 为 67.4,Dense200 为 74.61,SKU-110K 为 52.77,CrowdHuman 为 74.5,RefCOCO-M 为 87.1,HumanRef 为 70.39,DOTA-v2 为 59.63,CountBench 为 90.35,TallyQA 为 74.86,PixMo-Count 为 88.68,ChartQA 为 86.01,DocVQA 为 88.6,声称的平均值为 77.9。同一篇帖子还报告,在 Cloudflare Workers AI 上每秒可处理 34.2 个请求,首 token 延迟约为 20–30 毫秒,一次 point 调用的端到端耗时约为 145 毫秒。

Molmo2-4B 报告了一项汇总结果:在 15 个学术基准上平均得分为 62.8;在同一张表中,它落后于得分为 63.1 的 8B 同系列模型,并与得分为 58.1 的 Qwen3-VL-4B、得分为 53.4 的 InternVL3.5-4B 和得分为 60.7 的 Eagle2.5-8B 并列展示,而同一张表中的闭源模型则为 Gemini 3 Pro 的 70.0 和 GPT-5 的 70.6。

这两个平均值无法直接比较。它们覆盖的任务不同,Moondream 的平均值严重偏向它最擅长的检测和计数任务,而且两家厂商都没有在对方的测试集上运行过自己的模型。任何人把 77.9 对 62.8 说成是六分的胜利,都是在拿两场不同的考试作比较,然后称之为分数。

A screenshot of the Hugging Face model card for allenai/Molmo2-4B, showing 54 likes, an Apache-2.0 badge, a Safetensors panel reading 5B params with tensor type F32, 23,136 downloads last month, the Qwen/Qwen3-4B-Instruct-2507 base model in the model tree, and card text listing the Molmo2 video and multi-image training datasets.

两家供应商都关心的计数

计数是这两个模型的说法真正重叠的唯一领域,而在这里,诚实的解读对双方都不太舒服。Moondream 报告 CountBench 为 90.35,PixMo-Count 为 88.68。Ai2 的公告称,Molmo 2 系列在视频计数上领先开放权重模型,但随即在同一句话中承认,其评估中没有任何模型达到 40% 的准确率。这些说法并不冲突——一个是针对精选图像中的密集物体计数,另一个是跨视频计数——但它们意味着“擅长计数”并不是一个可以普遍套用的说法。在相信这个数字之前,先明确测试条件。

A screenshot of the Hugging Face model card for moondream/moondream3.1-9B-A2B, showing 97 likes and a moondream-model-license-1.0 badge, 9,206 downloads last month, a Safetensors panel reading 9B params with tensor types F32, BF16 and F8_E4M3, card text stating a mixture-of-experts architecture with 9B total parameters and 2B active, and a 'Run locally with Photon' section with a pip install moondream snippet.

如果你这周正在做决定

从请求将要运行的位置开始。如果你之前调用的是 Moondream Cloud API,那么这次迁移现在变成了一个自托管项目,而许可证决定你能否将其重新对外暴露。在本地运行 Photon,把 Moondream 保留在你的产品内部,并且在没有商业许可证的情况下,不要为第三方重建该端点。

如果视频在范围内,Moondream 3.1 已经推出。它每次调用只接收一张图像,再多的技能结构也无法绕过这一点。Molmo2-4B 默认以 2 fps 处理 384 帧,这正是接受其 19.42 GB float32 下载并在提供服务前将其降精度转换的原因。

如果你的流水线需要的是坐标而不是一段文字,两者都能做到,选择就变成了打包方式:Molmo2-4B 的带标签点流,配一个你自己维护的正则表达式;或者 Moondream 3.1 的点技能,直接返回 JSON。后者今天更省事,但明天会带来一项许可义务。

对于那些把 Moondream 作为多个托管视觉模型之一、而非作为产品本身来使用的团队,迁移并没有听起来那么夸张:OrcaRouter 会按提供商自己的标价、不加价覆盖 200 多个模型 ID,并具备自动故障转移(在上游端点性能下降时),因此用一个托管视觉调用替换另一个,并不意味着要再签一份合同或重写客户端。Moondream 3.1 和 Molmo2-4B 都不在该目录中——两者都是自托管权重——但技术栈的其余部分通常都在。

关于这一对组合,最清楚的一点是:这从来就不是一场公平的较量,如今差距更小了。Moondream 3.1 是一个快速、封装完善的视觉 API,其许可证将服务业务保留给其所有者。Molmo2-4B 是一个研究发布版本,具备原生视频点输出,且完全没有封装。停运并不会让其中一个比另一个更好,它只是消除了不选择的可能。