一张生成的主视觉卡片,标题为“LFM3-Omni-2B vs Moondream 3”,副标题为“同一量级,不同分工”;左侧面板显示文本、图像、视频和音频图块汇入一个“文本 + 24 kHz 语音”图块;右侧面板显示图像和文本图块汇入一个“框、点、掩码”图块;一行高亮文字为“DocVQA 92.47 vs 88.6”;页脚为“两项数据均为厂商自报;未经独立评估”。OrcaRouter 标志位于右下角。
Guides & Insights

LFM3-Omni-2B 与 Moondream 3:同一基准,两种不同任务

作者

Elias Hawthorne

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

将LFM3-Omni-2B与Moondream 3并排放在一起,规格表看起来就像一对孪生兄弟。两者都是面向手机、笔记本电脑、相机和机器人的小型多模态模型。两者都具备 32K 上下文。两者对每个 token 都动用约 20 亿参数。两者都提供今天就能下载的开放权重。搜索二者之间的正面对比,却一无所获,而这正是这对组合不断被拿来比较的原因。

然后你仔细阅读这两份模型卡,就会发现它们的相似性会以一种很容易核实的方式瓦解。两份模型卡都报告的唯一基准是 DocVQA,其中 LFM3-Omni-2B 得分为 92.47,Moondream 3.1 9B A2B 得分为 88.6。它们测量的其他所有内容彼此都不重叠。一个模型返回口语句子,另一个返回边界框。它们并不是对同一个问题的两种答案。

关于名称的说明:这个目录容易让人困惑。Moondream 3 Preview 于 2025 年 9 月 18 日发布,Moondream 3.1 9B A2B 于 2026 年 7 月 7 日发布;本文中出现的每一个 Moondream 编号都来自 3.1 的模型卡,也就是你可以下载的那个检查点。LFM3-Omni-2B 于 2026 年 10 月 27 日发布,是 Liquid AI 的 LFM3 系列六个模型之一。在这里唯一重要的意义上,两者都是全新的:它们都还没有经过其开发公司以外任何人的评估。

每个模型实际返回什么

最根本的差异不在于参数数量,而在于输出契约。

Moondream 3.1 提供五种具有固定形态的技能:query、caption、detect、point 和 segment。检测最多返回 200 个框,指向最多 64 个点,分割最多 50 个 COCO-RLE 掩码,全部以 JSON 形式给出,采用归一化 0–1 坐标。它是一种具有狭窄且可预测接口的空间测量仪器。你可以直接将其输出接入 UI 自动化器或机器人规划器,而无需 LLM 解析层,因为输出已经是结构化的。

LFM3-Omni-2B 没有这样的约定。它接收文本、图像、带或不带音轨的视频,以及 16 kHz 音频,并生成文本、24 kHz 语音,或两者交错输出。它没有坐标输出路径。如果你想从中获取位置,只能用自然语言提问并解析答案,这与能保证给出边界框的 schema 属于不同的可靠性等级。

这一处差异所决定的部署数量,比任何一行基准测试结果都多。把一个模型 ID 换成另一个,并不是一次迁移,而是对消费该响应的所有环节的重写。

并排对照的规格表

• 参数 — LFM3-Omni-2B 总计 2.17B,全部常驻并参与计算;相比之下,Moondream 3.1 总计 9.0B,每个 token 激活 2.0B。

• 静态内存占用 — 按 21.7 亿参数推算,BF16 下约为 4.4 GB,而 FP16 下约为 18 GB,社区 INT4 版本约为 6 GB,已发布的 fp8 版本在 NVIDIA 上则需 10 GB 起步。

• 输入 — 文本、图像、2 fps 的视频(带或不带音频),以及 16 kHz 语音与仅图像和文本的对比。

• 输出 — 文本、24 kHz 语音,或交错与文本、JSON、归一化坐标和掩码。

• 上下文 — 计入输入与输出共 32,768 个 token,对比 32,768 个文本 token 加上最多 12 个图像图块,约 2,304 个视觉 token。

• 视觉预算 — 原生分辨率下每张图像最多 2,048 个 token,而自适应平铺则可切分为最多 12 个 384–1024 px 的裁剪块。

• 许可 — LFM Open License v1.0:仅年收入低于 1000 万美元才授予商业使用许可;而 Moondream Model License 1.0:任何规模均可商用,但不得提供通用托管服务。

• 已发布 — 2026年10月27日 对比 2026年7月7日,其中 3 Preview 分支可追溯至 2025年9月18日。

内存这一行是人们通常会跳过的,但在边缘设备上,它却是决定性的全部理由。Moondream 的 2B 活跃参数使其每 token 成本与 LFM3-Omni-2B 一样低,但其 9B 总参数使它在相同精度下的内存占用最多可达后者的四倍。活跃参数决定计算量。总参数决定它是否能装得下。一个运行速度相同但需要 18 GB 的模型,不会和一个能装进 4.4 GB 的模型争夺同一个硬件槽位。

A generated two-column scoreboard titled 'LFM3-Omni-2B vs Moondream 3 — the scoreboard'. The left column lists Parameters 2.17B total, Input text, image, video, audio, Output text + 24 kHz speech, Context 32,768 tokens, DocVQA 92.47 and Licence LFM Open License v1.0. The right column lists Parameters 9B total, 2B active, Input image and text only, Output text, boxes, points, masks, Context 32,768 tokens, DocVQA 88.6 and Licence Moondream Model License 1.0, above a footer reading 'Both columns vendor-reported: Liquid AI and Moondream model cards. No independent evaluation.'

他们双方都报告的唯一基准

DocVQA 是文档问答任务,采用 ANLS 评分,在两份模型卡上,LFM3-Omni-2B 的读数为 92.47,而 Moondream 3.1 为 88.6。在这个视觉专家的主场,omni 模型领先 3.87 分。

对这一结果应当带着三点保留意见来解读,而这三点都至关重要。这两个数字都是由构建这些模型的实验室自行报告的。两家实验室都没有公布其评估工具链、提示格式或样本选择。而且,在一个不同评估工具链之间差异如此之大的基准上,3.87 分的差距只是提示性的,而非决定性的。这一行确实能确立的内容更窄,但仍然有用:LFM3-Omni-2B 在密集文档文本上并没有崩掉,而这正是你会预料一个 2.17B 的任意到任意模型会失手的任务。

不要将同样的解读推广到定位任务。LFM3-Omni-2B 报告 RefCOCO 为 73.55,Moondream 3.1 报告 RefCOCO-M 为 87.1,而这两者并非同一种测量。Liquid 的模型卡指出,边界框按各模型原生坐标格式读取;Moondream 报告的是 IoU 阈值为 0.5 时的 F1。将两者相减得到的数字毫无意义。诚实的说法是:Moondream 的模型卡围绕定位构建,而 Liquid 的模型卡将其视为十七行中的一行。

Moondream 3 不够接近之处

其中一部分是报告方式的选择,而非能力差距,值得精确区分哪些属于哪一种。一个 2.17B 的全模态模型,只要你用文字提问,几乎肯定能定位出一个大致区域。它做不到的是,在有界错误率下按某种 schema 返回 200 个框,因为它的训练数据和输出格式都不是为此构建的。Moondream 的整个产品就是一项保证:坐标会以可解析的形式返回。你买的就是这项保证,而其他实验室的基准测试榜单上没有任何一行能衡量它。

A headless-browser capture of the Moondream 3.1 9B A2B model page, showing the PRELIMINARY benchmark banner, the model-facts panel listing 9.0B total and 2.0B active parameters, a 32,768-token context, image and text input, fp8 experts on a 10 GB NVIDIA floor, and the start of the 'Five typed contracts' section with the input and output schemas for the query(), caption() and detect() skills.

同样的逻辑反过来也适用于延迟。Moondream 推出了 Photon——一个可将模型编译成单个 GPU 程序的推理引擎,厂商声称在 H100 上、批大小为 16 时,每秒约可处理 34 个请求,P50 为 59 毫秒。这些是厂商数据,尚未复现,但其背后的工程实现是针对单一模型定制的。LFM3-Omni-2B 目前还没有同等水平的服务方案。

LFM3-Omni-2B 不够接近的地方

Moondream 3.1 没有音频通路。不是更弱的音频通路——而是完全没有。它的输入只有图像和文本,仅此而已。因此 Liquid 卡片上的每一行音频指标都毫无争议:英语 ASR 词错误率 6.36、多语言 ASR 6.72、英语 TTS UTMOSv2 3.80、VoiceBench 64.73、MMAR 51.40,以及一项内部工具调用评测 52.20。

真正值得单独指出的是带音轨视频上的那些数字,因为正是它们构成了该模型存在的理由。Daily-Omni 70.09、WorldSense 47.10、AV-SpeakerBench 46.79——全部是在带音轨的视频上测得的,指标为多项选择准确率,且均为自行报告。Liquid 声称,这些成绩超过了 Qwen2.5-Omni-7B 以及参数量最高达 10.7B 的模型,而在它自己的表格里确实如此:Qwen2.5-Omni-7B 在同样这三行上的得分分别为 61.32、45.37 和 43.24。

卡片上的一个细节值得比它目前得到的更多关注。Liquid 两次报告了相同的视觉基准——一次是问题以文本输入,一次是问题以语音输入。RealWorldQA 从 66.54 降至 64.68,MMStar 从 55.67 降至 51.79,POPE 从 89.34 降至 83.78。通过音频编码器输入问题会损失两到六分,具体取决于任务。这就是语音路径的代价,直白地说,而且它比任何单个头条分数都更有用。

Moondream 3 在 11 月 13 日会发生什么?

这是该对比中设有截止期限的部分。Prime Intellect于2026年10月13日宣布收购Moondream,Moondream于10月14日予以确认。该公告称,2026年11月13日,即公告发布三十天后,Moondream Cloud——包括托管推理服务和Lens微调产品——将关停。未使用的已购积分正在退还,客户被引导至收购方自家的推理平台。

A headless-browser capture of Moondream's announcement post titled 'Moondream is joining Prime Intellect', dated October 14, 2026, showing the section headed 'What this means for Moondream Cloud' with the sentence that on November 13, 2026, thirty days from that date, the Moondream Cloud for inference and Lens will shut down, and that unspent purchased credits will be refunded.

接下来有三件事,只有第一件令人安心。开放权重得以保留,许可证也未改变,因此自托管不受影响。Photon 在 1.3.0 及更高版本上可本地免费运行,无需 API 密钥。无法干净保留下来的是 Lens:微调检查点和 LoRA 存放在服务器端,而且没有文档化的导出路径。如果你的产品依赖 Lens 微调,那么迁移并非只是改配置,而十六天并不足以让你发现这一点。

还有一个较小但值得提醒本周核对来源的人注意的怪现象。Moondream 的定价页面上仍然列出 Cloud 套餐、按 token 计费的价格以及每月 350 美元的 Team 层级,却对关停只字未提。公告在另一个页面上。如果读者在 10 月 28 日只查看定价页面,就不会知道该服务将在十六天后结束。

运行每一个需要多少成本

Moondream 公布了 token 费率:实时档每百万输入 token 0.30 美元、每百万输出 token 1.00 美元,批处理档减半至 0.15 美元和 0.50 美元。LFM3-Omni-2B 则完全没有公布托管费率。Liquid 表示该系列可在其 Playground 和 API 上使用,但发布帖未给出价格,模型卡也未给出价格。这种不对称正是成本故事所在。

在真实调用场景中算一算 Moondream 的成本。在完整分块(full tiling)下,单张图像最多消耗 2,304 个视觉 token;再加上 50 个 token 的提示词和 100 个输出 token,一次调用就是 2,354 个输入 token 和 100 个输出 token,约合 $0.0008。按每天 10,000 次调用计算,大约每天 $8,也就是每月 $242;若使用批处理层级,则降至每月约 $121。这是否便宜,完全取决于你原本会在硬件上花多少钱,而这正是 LFM3-Omni-2B 迫使你做的比较,因为它没有给你任何可按 token 计算的数字来与之权衡。

在你自己的硬件上,这笔账就反过来了。LFM3-Omni-2B 在 BF16 下权重大约 4.4 GB,这还没算上激活值、音频解码器和 KV 缓存——这个数字是按参数数量算出来的,并非实测占用,因为这款卡没有公布显存数据。Moondream 3.1 的正式发布版本需要一块 10 GB 的 NVIDIA 显卡,如果用社区的 INT4 量化版本则大约需要 6 GB。一个模型能在手机上跑,另一个则要 Jetson Orin 或更强的硬件。

在这里只用一句话提 OrcaRouter,是因为实话本就有限:LFM3-Omni-2B 和 Moondream 3 都不在我们的目录里,本文也从未声称我们提供其中任何一款。我们实际路由的是托管视觉层——例如 Qwen3-VL-8B——并按 0% 加价原样传递供应商标价,同时在上游之间自动故障转移。如果上面关于自托管的账目让你犹豫,那正是这项对比略去的选项,而它是另一种购买方式,并非更好的选择。

许可证可能会在基准测试之前做出决定。

这两种许可证限制的内容各不相同,至于哪一种会对你产生实际影响,则取决于你公司的具体情况。

LFM 开放许可证 v1.0 规定了 10,000,000 美元的年收入门槛。低于该门槛,商业使用可直接获得许可。高于该门槛,第 5 条明确规定,本作品或其衍生作品的商业使用完全不在该协议的许可范围内。因此,初创公司可以免费基于 LFM3-Omni-2B 构建产品,而超过门槛的公司若不另行达成协议则不能这样做——无论该模型有多出色。

Moondream Model License 1.0 没有收入门槛。它允许任何规模的商业使用、自托管、微调、量化和再分发,并且禁止一项特定业务:在没有另行签订书面商业许可的情况下,为该模型或其衍生模型提供通用托管模型服务。将 Moondream 嵌入更窄范围的产品中是允许的。对其转售通用推理服务则不允许。

这两份文件放在一起读,几乎是互补的。Liquid 按“你是谁”设限;Moondream 按“你卖什么”设限。一家计划推出托管推理产品的大公司,会以不同的方式被两者同时挡住。

谁应该选哪个

如果产品需要坐标,就选 Moondream 3.1。屏幕自动化、机器人、零售货架审计、计数,以及任何答案是框、点或掩码、且由下一个系统以编程方式消费的场景。9B 的总规模就是这项保证的代价,而如果你要部署在 Jetson 级别的硬件上,这个代价你付得起。现在就规划托管迁移,别等到十一月。

如果产品涉及人与设备对话,或设备必须能听见整个房间,就选 LFM3-Omni-2B。会出声回答的自助终端、双手忙碌时使用的现场工具、需要结合配乐理解视频的摄像头,以及用单个检查点替代 ASR 模型加 VLM 模型加 TTS 模型。视觉得分算不错但算不上出色,工具链才刚推出一天,而语音路径正是让人接受这两点的理由。

两个都别选——但如果这个决定至关重要的话。这里没有任何内容经过独立评估。LFM3-Omni-2B 的工具链正在快速推进——Ollama 库中已有一个 2.4 GB 的条目,llama.cpp 也在 10 月 27 日合并了对它的支持,同一天权重也发布了——但 Ollama 的列表目前与模型卡在两个明显方面存在出入,显示的是 125K 上下文和“文本、图像”作为支持的输入,而模型卡上写的是 32K 和四种模态。这是列表尚未跟上,而非模型缺陷,而且这类问题通常一周内就会修复。它也不是本周就该投入生产的东西。

什么会改变这一点

有两件事。对 LFM3-Omni-2B 在音视频条目上的独立评估,将判定 Daily-Omni 上的 70.09 能否在一个并非它自选的评测框架下站得住脚,而整个 omni 论证所依赖的正是这一个数字。还有语音分支的服务化方案——模型卡详细记录了文本生成,却对音频解码器如何大规模提供服务着墨甚少——这会告诉你“一个模型替代四个”的卖点能否经得起生产部署的检验。

在那之前,这种比较有一个清晰的轮廓。Moondream 3 测量世界,并把数字交给你。LFM3-Omni-2B 倾听它并回话。它们唯一共用的基准测试是一项文档阅读测试,而这个 omni 模型以不到四分的优势赢下了它。这不是一场竞争。它提醒我们,“2B 多模态”描述的是内存预算,而不是一项任务。