
Molmo2-4B 对比 Moondream 3:一个托管选项将于11月13日关闭
- Orca新OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 75 tok/s
- Orca新OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 114 tok/s
- Orca新OrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 每百万 tokens · 40 tok/s
- orca新Orca: OrcaC2 1.02026-10-303 tok/s
- Orca新OrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 101 tok/s
- Orca新OrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 100 tok/s
- Orca新OrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 100 tok/s
- Orca新OrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 48 tok/s
- Moonshot新MoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- Orca新OrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 74 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百万 tokens · 54 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 163 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2228智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2244智能
这个对比附带一个日期,而它就在一周之后。Moondream Cloud——公司中负责推理和 Lens 的业务部分——将于 2026 年 11 月 13 日关停,即 Moondream 宣布被 Prime Intellect 收购后的第三十天。未使用的已购额度正在退款。如果你曾基于 Moondream 3 托管端点构建应用,实际问题已不再是“Molmo2-4B 还是 Moondream 3”,而是“我该自己运行哪一套开放权重”。两个模型都在关停后继续存在。只有其中一个曾拥有可失去的托管 API。
值得精确说明这里比较的是哪个 Moondream,因为这个名字被用得比较宽泛。Moondream 3 Preview 于 2025 年 9 月上线 Hugging Face。当前版本是 Moondream 3.1,于 2026 年 7 月 7 日以 moondream3.1-9B-A2B 发布,本文将其视为“Moondream 3”。Molmo2-4B 是另一方:由 Allen Institute for AI 于 2025 年 12 月 11 日发布,权重于 12 月 14 日上线,权重采用 Apache 2.0 许可,并明确警告训练数据仅限学术和非商业研究使用。Ai2 从未为其提供托管 API,而这一点最终证明很重要。
Molmo 方面真正近期发生的事情并不是一次发布。2026 年 10 月 9 日,Molmo2 架构被合并进上游 Transformers,并于 10 月 15 日随 v5.20.0 发布,因此该模型不再需要 trust_remote_code=True。11 月 5 日,Ai2 发布了 Molmo2-4B-tb,这是针对积木堆叠机器人对该检查点进行微调后的版本。这两件事都没有让 Molmo2-4B 成为新模型,也没有改变它的资源占用规模。
什么会留存下来,什么不会
权重不会消失。Moondream 以 Moondream Model License 1.0 发布 moondream3.1-9B-A2B,并发布其自研推理引擎 Photon,用于在 Ampere 或更新架构的 NVIDIA GPU 以及 Apple Silicon 上进行本地部署。该许可证允许商业使用、微调、量化、再分发、边缘部署和客户自控的 VPC。它禁止的只有一件具体的事:在没有单独商业许可证的情况下,向第三方提供通用的托管式 Moondream 服务。
该条款正是关停比乍看之下更重要的原因。一个原本调用 Moondream Cloud API 的团队,无法直接为自己的客户搭建同样的端点。他们可以在自己的产品内运行 Moondream,也可以在可控的基础设施上运行它,但“Moondream 即服务”恰恰是许可证所保留的内容。如果端点就是产品,那么 11 月 13 日就是一次许可事件,而不只是迁移。
Molmo2-4B 没有对应的陷阱,因为它从来就没有过托管版本可供失去。权重许可证是 Apache 2.0,限制反而体现在数据声明中:Ai2 的模型卡称,该模型“基于受学术和非商业研究用途限制的第三方数据集训练”,并建议你查阅这些来源。两个模型都不是干净的“直接发布即可”——一个限制你能提供什么,另一个限制训练谱系能支撑什么。
内里是两台不同的机器
• 参数——Molmo2-4B 为 4,850,869,200 稠密参数;Moondream 3.1 总参数 9.0B,每个 token 激活 2.0B,采用八个专家的混合架构,配备 top-2 路由外加一个共享专家。
• 权重体积 — Molmo2-4B 的 float32 safetensors 为 19.42 GB,共四个分片;Moondream 3.1 通过 Photon 和 Hugging Face 分发,厂商强调其运行时占用小,而非下载包体积大。
• 上下文 — Molmo2-4B 为 36,864 个位置;Moondream 3.1 为 32,768 个 token。
• 输入支持范围——Molmo2-4B 支持图像、多图像和视频;Moondream 3.1 每次调用只接受一张图像,且没有原生视频处理路径。
• 输出约定——Molmo2-4B 返回按图像尺寸 0–1000 缩放的坐标点,在视频模式下附带时间戳,并提供用于解析的文档化正则表达式;Moondream 3.1 提供四项具名技能——query、detect、point、caption——每项均返回结构化 JSON。
• 许可 — Molmo2-4B 的权重采用 Apache 2.0,但附带第三方数据注意事项;Moondream 3.1 采用 Moondream Model License 1.0。
输出行是最有意思的差异,也是讨论最少的。Molmo2-4B 的点是一串原始坐标流,需要你解析并做后处理。Moondream 3.1 的技能则是一份 API 契约:detect 返回对象,point 返回点,caption 返回说明文字,而且返回结构不会随提示词变化。一个是你要在其上构建的模型;另一个是你要调用的服务。相比任何基准测试行,这种设计差异更能预测哪一个适合你的代码库。

不共享测试框架的分数
Moondream 为 3.1 发布了一张内容详实的表格,值得精确引用,因为大多数摘要都对其做了四舍五入。以下数据由厂商报告,且全部基于 Moondream 自己的评估:COCO 检测 [email protected] 为 81.46,ODinW-13 为 93.94,LVIS 为 67.4,Dense200 为 74.61,SKU-110K 为 52.77,CrowdHuman 为 74.5,RefCOCO-M 为 87.1,HumanRef 为 70.39,DOTA-v2 为 59.63,CountBench 为 90.35,TallyQA 为 74.86,PixMo-Count 为 88.68,ChartQA 为 86.01,DocVQA 为 88.6,声称的平均值为 77.9。同一篇帖子还报告,在 Cloudflare Workers AI 上每秒可处理 34.2 个请求,首 token 延迟约为 20–30 毫秒,一次 point 调用的端到端耗时约为 145 毫秒。
Molmo2-4B 报告了一项汇总结果:在 15 个学术基准上平均得分为 62.8;在同一张表中,它落后于得分为 63.1 的 8B 同系列模型,并与得分为 58.1 的 Qwen3-VL-4B、得分为 53.4 的 InternVL3.5-4B 和得分为 60.7 的 Eagle2.5-8B 并列展示,而同一张表中的闭源模型则为 Gemini 3 Pro 的 70.0 和 GPT-5 的 70.6。
这两个平均值无法直接比较。它们覆盖的任务不同,Moondream 的平均值严重偏向它最擅长的检测和计数任务,而且两家厂商都没有在对方的测试集上运行过自己的模型。任何人把 77.9 对 62.8 说成是六分的胜利,都是在拿两场不同的考试作比较,然后称之为分数。

两家供应商都关心的计数
计数是这两个模型的说法真正重叠的唯一领域,而在这里,诚实的解读对双方都不太舒服。Moondream 报告 CountBench 为 90.35,PixMo-Count 为 88.68。Ai2 的公告称,Molmo 2 系列在视频计数上领先开放权重模型,但随即在同一句话中承认,其评估中没有任何模型达到 40% 的准确率。这些说法并不冲突——一个是针对精选图像中的密集物体计数,另一个是跨视频计数——但它们意味着“擅长计数”并不是一个可以普遍套用的说法。在相信这个数字之前,先明确测试条件。

如果你这周正在做决定
从请求将要运行的位置开始。如果你之前调用的是 Moondream Cloud API,那么这次迁移现在变成了一个自托管项目,而许可证决定你能否将其重新对外暴露。在本地运行 Photon,把 Moondream 保留在你的产品内部,并且在没有商业许可证的情况下,不要为第三方重建该端点。
如果视频在范围内,Moondream 3.1 已经推出。它每次调用只接收一张图像,再多的技能结构也无法绕过这一点。Molmo2-4B 默认以 2 fps 处理 384 帧,这正是接受其 19.42 GB float32 下载并在提供服务前将其降精度转换的原因。
如果你的流水线需要的是坐标而不是一段文字,两者都能做到,选择就变成了打包方式:Molmo2-4B 的带标签点流,配一个你自己维护的正则表达式;或者 Moondream 3.1 的点技能,直接返回 JSON。后者今天更省事,但明天会带来一项许可义务。
对于那些把 Moondream 作为多个托管视觉模型之一、而非作为产品本身来使用的团队,迁移并没有听起来那么夸张:OrcaRouter 会按提供商自己的标价、不加价覆盖 200 多个模型 ID,并具备自动故障转移(在上游端点性能下降时),因此用一个托管视觉调用替换另一个,并不意味着要再签一份合同或重写客户端。Moondream 3.1 和 Molmo2-4B 都不在该目录中——两者都是自托管权重——但技术栈的其余部分通常都在。
关于这一对组合,最清楚的一点是:这从来就不是一场公平的较量,如今差距更小了。Moondream 3.1 是一个快速、封装完善的视觉 API,其许可证将服务业务保留给其所有者。Molmo2-4B 是一个研究发布版本,具备原生视频点输出,且完全没有封装。停运并不会让其中一个比另一个更好,它只是消除了不选择的可能。
