一张生成的标题卡显示“SingVL_S1_4B 对比 Moondream 3”,副标题为“坐标还是概率”,两个模型名称均以大号字体呈现,并带有 OrcaRouter 标志。
Guides & Insights

SingVL_S1_4B 与 Moondream 3:坐标还是概率

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

这两个模型都承诺提供结构化输出而非自然语言叙述,而它们的相似之处也仅止于此。Moondream 3以坐标作答:让它找出照片中的人,它会返回带标签的框;问它把手在哪里,它会返回点;让它生成说明文字,它会返回一句话。SingVL_S1_4B以概率作答:给它选项,它会为每个选项返回一个数字;给它一个陈述,它会返回该陈述为真的可能性。一个告诉你某物在哪里,另一个告诉你它有多确定。在两者之间做选择,取决于你的流水线本来就需要这两种答案中的哪一种,而两者很少能相互替代。

“结构化输出”的两种形态

Moondream 3 是一个混合专家视觉模型——总参数 9B,激活参数 2B——厂商 Moondream 将其描述为以适合部署的成本构建,用于视觉推理和检测。四项技能是原生支持而非通过提示实现:query 用于视觉问答,detect 用于开放词汇框检测,point 用于中心点,caption 用于图像描述。这四项技能都返回结构化输出,而不是对话式文本;权重可免费下载,并通过厂商自有的推理引擎 Photon,在 NVIDIA Ampere 及之后的 GPU 或 Apple silicon 上本地运行。该模型于 2025 年 9 月以预览版形式出现,并于 2026 年 7 月被 Moondream 3.1 取代,后者是同一架构的当前一代。

SingVL_S1_4B 是一个决策模型,由 inclusionAI 于 2026 年 11 月 11 日上传,未作任何公告。它接收一个状态——文本、JSON 或最多四张图像——以及一个命名问题字典,每个问题都声明一种类型及其候选答案。Choice 返回每个选项的概率,noul 返回某个是/否命题成立的概率,score 返回在二到十个有序等级中每个等级的概率,外加一个期望等级。每次请求进行一次前向传播,不生成 token,不产生任何形式的自由格式输出。

具体来说,给 Moondream 3 一张仓库照片和“托盘”这个词,它返回的是若干个边界框。给 SingVL_S1_4B 同一张照片,并附上问题“这一帧是否可以安全发运”以及候选答案“是”和“否”,它返回 0.91 和 0.09。两者都是结构化的。但两者都无法生成对方的输出。

9B 模型实际上有什么用途

Moondream 自家的发布材料罕见地坦承了基准测试的局限,但随后仍公布了一组密集数据。在 [email protected] 的检测任务上,关键数字是 COCO 为 81.46、ODinW-13 为 93.94、Dense200 为 74.61、SKU-110K 为 52.77——后两者是拥挤场景数据集,通用视觉模型通常会在这些数据集上表现骤降。指代检测在 RefCOCO-M 上达到 87.1。相比之下,LVIS 的 67.4 和 HumanRef 的 70.39 是它输给竞争对手的两行,厂商将其公布出来,而不是隐藏。

这种表现——在密集检测和开放词汇检测上很强,在细粒度指称上较弱、而这一领域专家模型会胜出——正是 2B-active MoE 所带来的。模型速度快,是因为每个 token 并不使用其大部分参数;它在计数和定位方面准确,是因为这些能力是作为一等技能训练出来的,而不是从图像描述中涌现出来的。

这种商业形态值得注意,因为它与研究发布正好相反。权重在 Moondream Model License 下免费提供,在本地运行它们无需 API 密钥,而托管服务按 token 计价:实时为每百万输入 $0.30、每百万输出 $1.00,批量则减半为 $0.15 和 $0.50。还有免费层、一个 playground、有文档记录的本地路径,以及可供阅读的许可证文本。这次发布没有任何含糊之处。

A generated two-column scoreboard for SingVL_S1_4B and Moondream 3 using the same six dimension labels on both columns: Output, Parameters, Local runtime, Licence, Hosted price and Independent use. SingVL_S1_4B reads probabilities, 4.54B dense, own FastAPI server, none declared, no provider, none. Moondream 3 reads boxes points and captions, 9B total with 2B active, Photon on GPU or Apple silicon, Moondream Model License 1.0, $0.30 and $1.00 per million tokens, over a year of ports. The footer reads 'SingVL_S1_4B figures vendor-reported; Moondream figures per Moondream.'

4.5B 模型究竟适合用来做什么

SingVL_S1_4B 的模型卡发布了一张“公共决策指数 0.3”表格:Text 面板为 69.76,Vision 面板为 73.94;相比之下,TypeSafe Jev 1.14 的文本得分为 60.70,StartLux-Decision v1.1 4B 为 67.8 和 67.90,Perplexity Decider Flash v1.2 为 60.1 和 72.5。各数据集的分项行显示了总分的来源——位居前列的是 InfographicVQA 96.31、Winoground 93.12、关键信息抽取 95.82;排在末尾的是 MMMU-Pro 视觉 50.17、R-Bench-M 49.77 以及仇恨表情包审核 71.64。

这些是厂商自己在其作者参与制定规范的排行榜上公布的数据,是通过对给定选项打分而非生成答案得出的,而且没有人复现过这些数据。撰写本文时,该代码库才建立两天,下载量为零,未附带许可证文件,也不存在相关论文。Decision Index 的公开复现工具包显示,没有来自该模型的提交。

因此,可用的论断是狭窄且结构性的,而非数值性的:单次前向传递为每个候选返回一个校准概率,这与返回坐标或文本的模型是不同的原语。当下游决策是一个阈值时——当某人已经决定高于 0.8 就采取行动、低于 0.3 就升级处理——这才是你想要的原语。它并不是你想要的原语——如果下游步骤需要知道哪里。

重叠程度比共享数据集名称所暗示的要小。

两张卡都涉及视觉接地,把数字并排列出并宣布胜者很容易。别这样。三处不匹配让这种比较毫无意义。

• 任务形态——Moondream 的检测分数来自生成边界框并在 IoU 阈值下将其与真值匹配。SingVL_S1_4B 的视觉分数来自在他人预先写好的选项之间做选择。一个能正确排序候选的模型,并不因此就是一个能进行定位的模型。

• 评测框架 — Moondream 在自身评估设置下,于命名检测集上报告 [email protected]。SingVL_S1_4B 则在 Decision Index 经随机校正、覆盖率调整的套件内报告准确率。同一个词,不同的测量方式。

• 作者身份——两组数据均由厂商报告。Moondream 的数据集已经历了一年多的第三方审查和社区移植;SingVL_S1_4B 的数据集则完全没有。其中一个数字已经在公开场合被争论过。

两者真正能够进行比较的地方,是一项双方都能表达的任务:这张图像是否包含违规,以及属于哪个类别。Moondream 会以检测结果或查询响应来回答;SingVL_S1_4B 则以选择分布来回答。这是一个确实应该有人去做的实验,而它还没有被做过。

A screenshot of the Hugging Face model card for moondream/moondream3.1-9B-A2B captured 11 November 2026, showing the Moondream organisation, the Image-Text-to-Text, Transformers and Safetensors tags, and the Like and Follow counts.

一个推演出的形态,因为 API 本身就说明了产品

最清楚地看出差异的方法是,写出每个模型在同一个任务中会收到的请求——在配送照片交给理赔理算员之前对其进行初步筛选。

使用 Moondream 3 时,调用是 detect(image, "damaged parcel"),响应是一个包含边界框和置信度的对象列表;如果没有匹配项,则为空列表。你能得知是否发现了损坏以及损坏在哪里。然后 caption(image) 会给你一句描述场景的话。两次调用,两种结构,都关乎内容。

使用 SingVL_S1_4B 时,调用会在请求中携带这些问题。一个选择题询问包裹是完好、受损还是丢失,并给出三个候选答案。一个 noul 问题询问标签是否清晰可读。一个评分题按四个有序等级评估图像质量。响应会为每个问题的每个候选给出一个概率,并为评分题给出一个预期等级。一次调用,三个答案,全都关乎置信度。

Moondream 这条路径为理赔系统提供了可供展示的内容。SingVL 这条路径则为它提供了可供分支判断的依据。构建前者的团队会觉得后者毫无用处;构建后者的团队则会发现,前者需要一个它不想编写的解析器。这就是整个决策,而且在打开任何一家厂商的基准测试之前就已经定下来了。

运行它们也不具可比性

Moondream 3.1 可通过 Photon 在工作站 GPU 或 Apple 笔记本电脑上运行,首次使用时从 Hub 下载权重,基础模型无需密钥。此外还提供托管端点,公布了按 token 计费的价格、免费额度和有文档的快速入门;供应商还发布了本地推理指南,涵盖支持的硬件、流式传输、微调模型以及通过 Triton 提供服务。每条路径都有文档,每项价格都公开。

SingVL_S1_4B 可在你提供的 GPU 上运行,来源是一个 9.1 GB 的 BF16 下载包,运行环境为 Python 3.12,并通过绑定到 8173 端口的 FastAPI 服务器在 POST /v1/systemone 提供响应。说明是完整的,curl 示例也能用,这已经超过大多数静默发布所能做到的程度。不存在的是任何托管选项、任何量化构建、任何框架集成,或任何允许你重新分发所下载内容的许可证。

最后提到的这一缺失带有商业层面的影响。Moondream 的许可证是自定义的——并非 OSI 意义上的开源——而且供应商明确指出,将权重作为云服务托管需要其许可证,这正是存在托管层级并对其定价的原因。SingVL_S1_4B 则完全没有条款,这并不等同于宽松许可:在没有任何授权的情况下,inclusionAI 之外的任何人都无权将其用于商业用途,法律审查会就此止步。

决定落脚何处

如果任务是找东西——清点库存、定位某个部件、把布局读成一个个方框、指着某个把手——Moondream 3 是两者中唯一能做到的,而它在人群场景下的数字,正是这类工作应优先选择它而非通用视觉模型的原因。它还有价格表、许可证、本地部署路径,以及一年来其他用户的使用记录。

如果任务是要做决定——一道闸门、一次分诊、在固定分类体系上的一个阈值,而在这种场景里一个数字比一句话更有用——那么 SingVL_S1_4B 的设计更合适,而且它的输出消除了整类下游解析工作。但“更合适”只是关于一个尚无许可证的版本发布第二天的架构判断,它应被理解为值得关注的理由,而不是着手构建的理由。

想要现在测试这种决策模式、而不是等 inclusionAI 完成文书工作的团队,今天就可以调用它:OrcaRouter 提供 TypeSafe Jev 1.14——typesafe/jev-1.14,每百万输入 token 收费 0.042 美元——与200 多个其他模型使用同一密钥,按提供商标价、0% 加价,因此任何供应商的价格变动都会在同一天生效。Sing VL S1 不在 OrcaRouter 上,也没有任何托管服务,所以这并不是可用性声明;这是更便宜的方式,用来弄清概率输出在你自己的数据上是否胜过边界框。如果胜过,等它有条款后再重新考虑该检查点。如果没有,你就省下了一块 GPU 和一次法律审查。

A screenshot of the OrcaRouter model page for typesafe/jev-1.14 captured 11 November 2026, showing the typesafe vendor breadcrumb, listed prices around $0.04 per million tokens, a latency figure, a usage counter, a zero-data-retention note, and code samples posting typed noul and choice questions to the /v1/systemone route.

这两个模型会一直被人们相提并论,因为二者都避开了聊天界面。但这只是表面上的相似。在底层,一个是定位器,一个是评分器,而你正在搭建的流水线早已清楚自己需要的是其中哪一种。