Moondream 3 Preview 的托管端点将于11月13日关闭

M​oondream 3 Preview 于 2025年9月18日发布，而为其提供服务的端点将于 2026年11月13日停止响应。这个故事中真正重要的就是这两个日期，而只有第二个日期是紧迫的。模型本身不会被撤下——权重仍留在 Hugging Face 上，许可证也不会改变——但大多数团队实际调用的托管路径，由 M​oondream 3 Preview 及其后继者 M​oondream 3.1 共用，正在被关闭，而通知只用一行说明了这一点：2026年11月13日，也就是从今天起30天后，M​oondream Cloud 将关停，未使用的已购积分将予以退还。

那则通知是和它背后的原因一起发布的。 Moondream 3 Preview及其后继版本Moondream 3.1现已成为 Prime Intellect 的一部分。Prime Intellect 于 2026 年 10 月 13 日宣布已收购 Moondream，创始人 Vik Korrapati 和 Jay Allen 加入其中，负责领导并扩展推理业务。Moondream 自己发布的帖子日期为 10 月 14 日。这不是一次发布，也不应被当作发布来写。这是一次所有权变更，并附带一个硬性迁移截止日期；如果你有对 api.moondream.ai 的生产调用，无论它在你技术栈中的哪个位置，那么从该帖子发布之日起，你大约有四周时间来决定用什么来替代它。

Prime Intellect 究竟买下了什么

公告异常明确地说明了转手的两个事物，而它们都不是模型检查点。第一个是团队：Korrapati 和 Allen 加入以进行推理，并加速包括视觉和计算机使用在内的多模态工作。第二个是 Photon，M​oondream 的推理引擎，它通过自定义内核和背后的 megakernel 编译器，将每个模型编译成一个单一的 GPU 程序。

读一读它的说法，你就能明白缘由。Prime 的帖子开篇讲的是服务，而非架构——它为这笔交易给出的理由是：“服务环节才是决定一个模型是否有用的地方。”它引用的数字都是吞吐量数字：Moondream 3.1 达到每秒 34 个请求，据称比第二准确的开源模型快约 24 倍；在单块 H100 上每秒可完成 60 多次 Moondream 推理；响应时间在几十毫秒内。这些都是 Prime 自己的数据，而 Prime 如今正是出售推理服务的一方，所以应把它们视为厂商自报数据。不属于厂商说辞的，是这笔交易的方向：一家产品原本是视觉模型的公司，买下了一个推理引擎，并让其作者负责推理。

对于任何拥有 Moondream 集成的人来说，实际影响是：开放权重仍将保持开放，而且用 Moondream 的话说，“将继续改进，现在速度要快得多。”正在消失的是便利层——托管 API 和 Lens，以及微调产品——而这恰恰是许多小团队所依赖的那一层，因为他们不想运行 GPU。

Moondream 3 Preview 究竟是什么

值得重申，因为一个于 2025 年 9 月发布的模型，如今在一项收购中正被取代，而许多团队只是通过关停通知才接触到这个模型。它是一个细粒度稀疏专家混合模型，总参数量为 9B，每个 token 激活 2B，通过 drop upcycling 从较旧的 2B 稠密 Moondream 2 初始化而来。

• 架构 — 24 层，前四层为稠密层，其余为 MoE 前馈块，每层 64 个专家、每个 token 激活 8 个，GeGLU，隐藏维度 2048。

• 视觉编码器——基于 SigLIP，采用多裁剪通道拼接，实现 token 高效的高分辨率输入。这个平铺细节在之后很重要。

• 上下文——32K 可用 token，相比上一代的约 2K 大幅提升，使用了自定义的 SuperBPE 分词器。这篇预览文章坦言，后训练尚未充分利用长窗口，完整的 32K 主要是为进行微调的人准备的。

• 技能 — 查询、生成说明文字、指向和检测，全部为原生能力，且都返回结构化输出。其中检测和指向是本次发布最倚重的两项。

• 推理——混合模式。query 默认以推理模式运行，也可在关闭推理的情况下调用，以应对低成本、简单的问题。Moondream 的定位是，这是视觉推理加落地：推理轨迹会引用图像中的特定区域。

• 许可证 — 商业源代码许可证 1.1（Business Source License 1.1）并附带附加使用授权（Additional Use Grant），该授权允许商业和生产用途、微调、量化及再分发，并禁止销售对外提供通用 M​oondream 能力的托管服务。

最后一行才是悄然塑造了整个生态的那一条，值得把它说清楚，因为M​oondream 3.1转而启用了一件完全不同的工具——M​oondream 模型许可证 1.0，自 2026 年 7 月 7 日起生效。规则在实质上并无二致，只是表述得更利落：如果 M​oondream 是你产品中的一个组件，那么你是被允许的；如果获取 M​oondream 本身就是产品，那你需要一份单独的许可。自托管、边缘部署、由客户掌控的 VPC、在租用的云 GPU 上运行它、将其微调作为专业服务的一部分，以及不暴露通用功能的领域专用 API，这些都被明确允许。由服务商运营的通用推理、托管的通用微调，以及暴露微调衍生模型的共享 API，这三类则需要谈一笔交易。

这就是关闭通知以这种形式出现的原因。Moondream 不能简单地把其托管端点交给第三方——许可证的例外条款正是针对这一点——因此该端点关闭，迁移工作交由 Prime，而 Prime 现在拥有它。

两个不值得信任的数字

Moondream 自己发布的基准测试报告，值得比它通常受到的更多审视，因为这家公司对其方法的披露比大多数公司更透明，而该方法又在其中发挥了很大作用。

在预览版中，发布图表将 M​oondream 3 Preview 与 GPT-5、Gemini 2.5-Flash 和 C​laude 4 S​onnet 进行了对比。在指称表达检测列上，差距很大，不太可能是人为假象：RefCOCO 上，预览版为 91.1，而 Gemini 2.5-Flash 为 75.8，GPT-5 为 57.2，C​laude 4 S​onnet 为 30.1。M​oondream 自己给出的注意事项才是关键——前沿模型并不原生支持 grounding，因此它们是通过模板查询的，而且一些预览版分数是在 100 道题的随机样本上计算的，而非完整基准。用模板化的 grounding 查询去测试一个没有 grounding 能力的模型，衡量提示工程的程度不亚于衡量模型本身。

对 M​oondream 3.1 来说，这种方法的影响甚至更大，而且值得直说：已公布的基准测试分数，是通过使用 Lens——M​oondream 的微调产品，包含按任务的 LoRA、SFT 和 RL——在每个基准测试各自的训练划分上微调该模型，然后再将这些 LoRA 学到的东西蒸馏回基础权重中，从而让可下载的检查点在完全无需任何调优的情况下也能取得好成绩。3.1 的发布文章明确说明了这一点，甚至指出蒸馏后的基础模型表现仅略逊于各个单独的 LoRA。这是一种合理且有趣的工作流程，但它也不同于一个未经调优、开箱即用的分数，因为所涉及的任务已经将其训练划分喂给了模型。如果你把 3.1 与一个从未见过这些划分的模型相比较，那你就是在把一个调优后的产物与一个未调优的产物相比较。

这些都不会让数字出错。它让标注起到承重作用，而这正是我们对任何供应商图表所采用的标准。

你的三条迁移路径

如果托管端点已在你的技术栈中，这个决定的范围比表面上看起来更窄。

• 使用 Photon 自托管 — Photon 保持免费，可在 Ampere 及之后的 N​VIDIA GPU 和 Apple Silicon Mac 上本地运行，并具备与 M​oondream Cloud 相同的 API 接口。pip install moondream，加载时设置local=True，基础模型无需 API 密钥。权重会在首次使用时从 Hugging Face 下载。这条路径几乎无需改动你的代码，并将成本从按 token 计费转为按 GPU 小时计费。

• 迁移到 Prime——通知称 Moo­dream 和 Prime 将主动联系并给出后续步骤，并指向 Prime 来满足推理、微调或类似需求，紧急问题可联系 contact@moondream.ai。Prime 现在是托管路径唯一继续存在的地方，而且它将运行在 Prime 的技术栈上，而非 Moo­dream 的。

• 更换模型——如果 Moondream 3 Preview 之所以出现在你的技术栈中，是因为它是一个便宜、快速的平铺图像检测器，而不是因为其中有什么是 Moondream 所特有的，那么这次停服正是一个合理的时机，让你重新运行自己的评估集，而不是默认做一次同类替换。

要避免的是第四条路径：一直无所作为，拖到11月12日。额度正在退还，所以没有任何财务理由去继续调用一个即将停止响应的端点；而在硬性截止日期前一周才开始的迁移，正是那种会让你发现自己的 grounding 提示词实际依赖了什么的迁移。

如果你最终统一采用的模型恰好属于 OrcaRouter 目录中那 200 多个模型之一，那么这件事的一部分就会变得简单些：一个密钥、一种请求结构即可通用于它们全部，按供应商标价原样透传、不加任何加价，并且当上游质量下降时自动故障转移。M​oondream 3 Preview 并不在该目录中，M​oondream 3.1 也不在其中——这两者都是你需要自行托管、或通过 Prime 访问的权重——所以对于这次特定的迁移而言，路由层帮得上忙的是你接下来路由的任何东西，而不是 M​oondream 本身。这一点值得直说，而不是暗示相反的情况。

未来四周看点

三件事比任何新闻稿都能告诉你更多。第一，Prime 是在 11 月 13 日之前还是之后为 M​oondream Cloud 发布推理替代服务；通知没有给出日期，而关停与替代服务之间的空档期是对用户代价最大的结果。第二，M​oondream 3.1 的下载许可证在新所有权下是否保持原样——Model License 1.0 的托管服务限制正是旧端点必须关闭而非转让的全部原因，因此对其的任何修订都会改变可能性。第三，M​oondream 承诺的“快得多的改进速度”是否会产生一个检查点，而不是一份公告；旧公司下的最后一次模型发布是 2026 年 7 月 7 日的 3.1，而此后的发布一直是 Photon 版本和语音模型。

已经尘埃落定的是日期。M​oondream 3 Preview 自 2025 年 10 月起已在托管端点上正式可用，而它被 M​oondream 3.1 取代已有三个月；到 2026 年 11 月 13 日，两者的托管版本都将停止服务。权重不会消失。便利却会。

这一切都不是假设：像此次发布这样的版本背后那些有记录的 AI 故障和智能体事件，都收录在OrcaRouter AI Incident Archive，其中每条记录都附有自己的来源、严重程度、置信等级和争议标记。