
Moondream 3 与 LFM2.5-VL 3B:一个指向答案,一个只是回答
- Orca新Orca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百万 tokens · 72 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 732 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2248智能
- AnthropicAnthropic: Claude Opus 5.52026-09-2258智能
- xAIGrok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百万 tokens · 35 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 每百万 tokens · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040智能
- OpenAIOpenAI: GPT-6 Astra2026-09-0453智能77代码
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241智能76代码
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245智能76代码
- AnthropicAnthropic: Claude Fable 5.12026-09-0153智能82代码
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 每百万 tokens · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 每百万 tokens · 108 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642智能72代码
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 每百万 tokens · 185 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845智能75代码
最有用的差异并不在于Moondream 3 Preview与LFM2.5-VL-3B的基准测试表中,而在于:Moondream 3 Preview 通过指向图像中的区域来对图像进行推理——它的推理轨迹是有依据的,会引用具体区域——而 LFM2.5-VL-3B 则明确是一个非推理模型,直接给出答案;这是 Liquid AI 为了让端侧工作的延迟保持低位而做出的选择。同一张图像输入,输出的是两种截然不同的东西,而你究竟想要哪一个,取决于下游系统是需要信任这个答案,还是仅仅消费它。
其余一切皆由那个分叉而来。Moondream 3 Preview 是一个稀疏混合专家模型,总参数 90 亿,激活参数 20 亿,由 Moondream 于 2025 年 9 月 18 日发布,而 Moondream 已于 2026 年 10 月被 Prime Intellect 收购。LFM2.5-VL-3B 是一个稠密的 31 亿参数模型——由 26 亿参数的语言主干网络与 400M 的 SigLIP2 NaFlex 视觉编码器组成——由 Liquid AI 于 2026 年 8 月 12 日发布,作为 LFM2-VL-3B 的直接后继者。一个是专才,生来用于检测和指向,也能回答问题。另一个是通才,生来用于回答问题,最近才学会指向。
你必须首先注意到的指标冲突
把这两个接地数值并排放在一起,比较起来看似几乎不相上下。其实并非如此,因为它们不是同一种测量。
Moondream 的发布图表列出 Moondream 3 Preview 在 RefCOCO 上达到 91.1。Liquid AI 报告称,LFM2.5-VL-3B 的 RefCOCO precision@1 达到 87.9。RefCOCO 准确率和 RefCOCO precision@1 是在同一数据集上计算出的不同统计量,而它们之间 3.2 个百分点的差距,完全说明不了哪个模型定位得更好。任何把这两个数字堆在同一张柱状图里的人,都是在把一个数字与一个定义不同的数字作比较。
• Moondream 3 Preview 的定位能力——RefCOCO 91.1,在一张图表上,前沿基线(GPT-5、Gemini 2.5-Flash、Claude 4 Sonnet)是通过模板查询的,因为它们没有原生定位能力;而且其中一些预览版分数来自 100 道题的样本,而不是完整题集。由厂商报告,而且正如 Moondream 自己所说,这不是一场公平的较量。
• LFM2.5-VL-3B 定位——RefCOCO precision@1 为 87.9,高于上一代 LFM2-VL-3B 的 57.1,Liquid 将此归因于合成定位数据的规模扩展。由厂商报告,是在同一测试框架下与其自身前代产品进行的对比,而这是更有意义的维度。
• 检测与指向——Moondream 3 Preview:原生 检测和指向技能,输出结构化坐标,属于架构的一部分。LFM2.5-VL-3B:通过训练加入的定位能力,同样以坐标形式返回,函数调用也是 VL 系列的新增功能(ToolSandbox 从 26.4 提升至 59.5,BFCL v4 从 20.5 提升至 32.5)。
诚实的解读是:Liquid AI 在相同评测框架上给出了清晰的前后对比,而 Moondream 有一张带有模板注意事项的跨模型图表。两者都没有提供正面交锋。如果 grounding 准确率是你评估中的决定性因素,那么你自己标注的数据集才是唯一能定论的工具。
有根据的推理会让你付出什么代价
Moondream 的query技能默认在推理模式下运行。模型会完整地走一遍问题,其轨迹会引用它所用到的图像区域,你可以在演练场里把鼠标悬停在文本上来查看这些区域。凡是需要人工审计答案的场景——生产线上的缺陷判定、安全事件、医疗分诊标记——这一特性都价值不菲。它区分开的是这样两类模型:一种只说“不”,另一种说“不,在这里”。p>代价在于 token。推理模式会先于答案生成一段轨迹,而 Moondream 自己的文档就给出了逃生出口:对简单问题传入 reasoning=False,因为公司清楚这个模式并非免费。这是一次实实在在的架构层面的坦白——设计良好的模型本不需要一个开关来关掉思考。
LFM2.5-VL-3B 没有对等物。它被设计为一种非推理模型,Liquid AI 也直白地说明了这种取舍:直接作答能为实时和端侧使用保持低延迟。没有可供检查的轨迹,也没有可禁用的模式。在收银台扫描条形码,或用手机翻译菜单时,这是正确的工程选择,而缺失的轨迹并不是缺陷。
所以问题不在于哪个更好,而在于你的模型下游是否有任何东西会读取推理过程。如果是人读,那么 Moondream 有根据的推理轨迹就是你所购买的功能。如果只有程序读,那你就是在为没人会读的 token 付费。
3.1B 真正胜在哪里
LFM2.5-VL-3B 的体量宣称并非营销话术。它在 Apple M5 Max 上仅占用不到 3.3 GB 内存即可运行,速度达每秒 228 个 token;在 AMD Ryzen AI Max+ 395 上则为每秒 116 个 token,并且与原生 checkpoint 一同发布了 GGUF、ONNX 和 MLX 导出格式。这是一款能装进笔记本电脑的模型,Liquid AI 还将其作为 WebGPU Hugging Face Space 提供,可直接在浏览器标签页中运行。
Moondream 3 Preview 的活跃参数量更小——2B 对 3.1B——但这一比较并不对称,因为 MoE 检查点必须完整驻留,即便只有其中一小部分会被激活。那 9B 权重总得有地方存放。Moondream 自己给出的答案是 Photon,即其本地推理引擎,可在 Ampere 及之后的 NVIDIA GPU 和 Apple Silicon Mac 上运行该模型。约束条件不同:LFM2.5-VL-3B 足够小,放到哪里都能装下;Moondream 3 Preview 在计算意义上很快,但在内存意义上很大。
• 上下文 —— 两者均为 32K tokens。这是真正的趋同,考虑到相较上一代 Moondream 的 2K 窗口,这一跨度达两年,这一点尤其值得注意。
• 语言 — LFM2.5-VL-3B 列出了十六种:英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语、越南语、泰语、印度尼西亚语、印地语、俄语、波兰语,并将其词表扩充到 128,000,以支持非拉丁文字。Moondream 3 Preview 的模型卡以视觉能力为主打,而非语言列表;应把多语言 VQA 视为需要测试的能力,而不是承诺具备的能力。
• 文档阅读——LFM2.5-VL-3B:DocVQA 91.1,ChartQA 81.3,OCRBench v1 84.2,OCRBench v2 英语 47.5,MMMU 48.4。Moondream 3 Preview:DocVQA 88.3,ChartQA 86.6,POPE 89.0。测试框架不同,双方均为厂商报告数据。
• LFM2.5-VL-3B 告诉你不要做什么——Liquid AI 的模型卡直言,不建议将其用于长上下文或推理密集型任务,例如视觉化网页设计或关于蓝图的技术问题。这句话比大多数基准测试表格都更有用。
部署,以及路由器在其中的位置
这两个模型都不通过 OrcaRouter 提供服务,这一点值得直说,而不是绕弯子:它们都是你自行运行的开放权重检查点,而且随着 Prime Intellect 的收购,Moondream 3 Preview 的托管端点——Moondream Cloud——将于 2026 年 11 月 13 日关闭,未使用的额度将予以退还。
这改变的是决策的形态。一个团队如果标准化采用自托管 VLM,通常最终会再引入一个托管模型,用来处理本地模型处理不佳的情况;而到了那时,集成工作就成了问题:两套 SDK、两套认证方案、两套重试策略,以及一场会变成你自己故障的供应商故障。
这正是 OrcaRouter 的路由 DSL 为之而生的场景。你把多个模型组合成一次调用——3.1B 的本地模型回答它能回答的部分,托管模型承接剩下的部分——用一个密钥即可访问 200 多个模型,提供商标价以零加价原样透传,并在上游服务降级时自动故障转移。由于 Moondream 3 Preview 和 LFM2.5-VL-3B 都不在该目录中,路由层是架在它们之上,而非取代它们:它让你既能保持本地廉价路径的低成本,又不会让供应商的故障变成你的故障。
许可授权上的分岔,比基准测试更为尖锐
两种不同的许可理念,而这一差异对产品决策而言,比3分的评分差距更重要。
Moondream 3 Preview 依据 Business Source License 1.1 发布,并附有附加使用授权(No Third-Party Service)。内部及生产使用、个人项目、研究、基准测试、微调、合并、量化、权重增量,以及在不会与 Moondream 付费产品实质性重叠的产品中使用,均被允许。销售暴露类似视觉能力的托管 API、托管式“Moondream-as-a-service”,或将权重嵌入提供可比能力的付费 SDK,则需要另行签订协议。Moondream 3.1 已转向 Moondream Model License 1.0,该许可证更清晰地陈述了同一规则:允许作为你产品的组件,但不允许将 Moondream 本身作为产品来提供访问。边缘设备、客户控制的 VPC,以及在租赁的云或新云 GPU 上运行该模型,均明确属于允许范围。
LFM2.5-VL-3B 采用 Liquid AI 自家的 LFM Open License v1.0 授权。发布前请先读一读,就像对待任何一份定制许可证那样;但这两类许可证在性质上并不相同:Moondream 的限制针对的是一项具体业务——转售该模型——而 Liquid 的则是一份宽泛的开放许可证,另有自己的条款。
如果你是领域专用构建者,那么两者都没问题,许可证问题只是走个形式。如果你的业务与“我们为其他人托管视觉模型”有任何沾边,Moondream 的许可证是你首先要读的约束,而 LFM 的那份则大概是你能够通过的。
该选哪一个

选择Moondream 3 Preview,前提是答案必须可供审查。如果由人工复核输出,如果轨迹需要显示图像的哪一部分驱动了决策,如果检测与指向本身就是主要产品而非一项功能——那么这种有据可依的推理,正是值得为一个 2B 激活模型付出 9B 内存的全部理由。为 Photon 或 GPU 预留预算,并针对托管端点即将关闭做好规划。
选择LFM2.5-VL-3B如果模型必须驻留在设备端。如果你要交付到手机、笔记本电脑、工厂车间的机箱或浏览器标签页,并且工作负载是单轮、高吞吐、低延迟的——读取屏幕内容、转录文档、检测视频流中的物体——那么一个无需思考即可作答的稠密 3.1B 模型正是你想要的,而它在 M5 Max 上每秒 228 个 token 的速度就是决定性的数字。
如果预算允许,两个都选,并在它们之间进行路由:每一帧都用 LFM2.5-VL-3B,因为它运行起来几乎免费;而在那些值得等待有依据答案的帧上,则使用 Moondream 3 Preview。


数字无法告诉你的是,这一切在实际应用中是否已经出了问题:围绕这一类模型的有据可查的人工智能事故和智能体故障,都收录在OrcaRouter AI 事故档案中,其中每一条记录都附有各自的来源、严重程度、置信度等级和争议标记。
本文中的对比1
根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新
