
LFM3-Omni-2B 与 Moondream 3:同一基准,两种不同任务
- Orca新OrcaCyber: GLM 5.3 Flash Abliterated2026-10-2779 tok/s
- Orca新OrcaCyber: Qwen3.8 Flash Next Abliterated2026-10-26$0.80 / $1.60 每百万 tokens · 283 tok/s
- Orca新OrcaCyber: MiMo V2.6 Flash Abliterated2026-10-26$0.80 / $1.60 每百万 tokens · 82 tok/s
- Moonshot新MoonshotAI: Kimi K3.1 Pro2026-10-2455智能
- Orca新OrcaCyber: DeepSeek V4.1 Flash Abliterated2026-10-23$0.80 / $1.60 每百万 tokens · 119 tok/s
- minimax新MiniMax: M3.1 Flash2026-10-1943智能
- Orca新Orca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 44 tok/s
- deepseek新DeepSeek: DeepSeek V4.1 Flash 10172026-10-1745智能
- DeepSeek新DeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百万 tokens · 113 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 701 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2248智能
- AnthropicAnthropic: Claude Opus 5.52026-09-2258智能
- xiaomiXiaomi: MiMo-V2.6-Flash2026-09-2138智能
- xiaomiXiaomi: MiMo-V2.6-Pro2026-09-2146智能
- xAIGrok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百万 tokens · 160 tok/s
将LFM3-Omni-2B与Moondream 3并排放在一起,规格表看起来就像一对孪生兄弟。两者都是面向手机、笔记本电脑、相机和机器人的小型多模态模型。两者都具备 32K 上下文。两者对每个 token 都动用约 20 亿参数。两者都提供今天就能下载的开放权重。搜索二者之间的正面对比,却一无所获,而这正是这对组合不断被拿来比较的原因。
然后你仔细阅读这两份模型卡,就会发现它们的相似性会以一种很容易核实的方式瓦解。两份模型卡都报告的唯一基准是 DocVQA,其中 LFM3-Omni-2B 得分为 92.47,Moondream 3.1 9B A2B 得分为 88.6。它们测量的其他所有内容彼此都不重叠。一个模型返回口语句子,另一个返回边界框。它们并不是对同一个问题的两种答案。
关于名称的说明:这个目录容易让人困惑。Moondream 3 Preview 于 2025 年 9 月 18 日发布,Moondream 3.1 9B A2B 于 2026 年 7 月 7 日发布;本文中出现的每一个 Moondream 编号都来自 3.1 的模型卡,也就是你可以下载的那个检查点。LFM3-Omni-2B 于 2026 年 10 月 27 日发布,是 Liquid AI 的 LFM3 系列六个模型之一。在这里唯一重要的意义上,两者都是全新的:它们都还没有经过其开发公司以外任何人的评估。
每个模型实际返回什么
最根本的差异不在于参数数量,而在于输出契约。
Moondream 3.1 提供五种具有固定形态的技能:query、caption、detect、point 和 segment。检测最多返回 200 个框,指向最多 64 个点,分割最多 50 个 COCO-RLE 掩码,全部以 JSON 形式给出,采用归一化 0–1 坐标。它是一种具有狭窄且可预测接口的空间测量仪器。你可以直接将其输出接入 UI 自动化器或机器人规划器,而无需 LLM 解析层,因为输出已经是结构化的。
LFM3-Omni-2B 没有这样的约定。它接收文本、图像、带或不带音轨的视频,以及 16 kHz 音频,并生成文本、24 kHz 语音,或两者交错输出。它没有坐标输出路径。如果你想从中获取位置,只能用自然语言提问并解析答案,这与能保证给出边界框的 schema 属于不同的可靠性等级。
这一处差异所决定的部署数量,比任何一行基准测试结果都多。把一个模型 ID 换成另一个,并不是一次迁移,而是对消费该响应的所有环节的重写。
并排对照的规格表
• 参数 — LFM3-Omni-2B 总计 2.17B,全部常驻并参与计算;相比之下,Moondream 3.1 总计 9.0B,每个 token 激活 2.0B。
• 静态内存占用 — 按 21.7 亿参数推算,BF16 下约为 4.4 GB,而 FP16 下约为 18 GB,社区 INT4 版本约为 6 GB,已发布的 fp8 版本在 NVIDIA 上则需 10 GB 起步。
• 输入 — 文本、图像、2 fps 的视频(带或不带音频),以及 16 kHz 语音与仅图像和文本的对比。
• 输出 — 文本、24 kHz 语音,或交错与文本、JSON、归一化坐标和掩码。
• 上下文 — 计入输入与输出共 32,768 个 token,对比 32,768 个文本 token 加上最多 12 个图像图块,约 2,304 个视觉 token。
• 视觉预算 — 原生分辨率下每张图像最多 2,048 个 token,而自适应平铺则可切分为最多 12 个 384–1024 px 的裁剪块。
• 许可 — LFM Open License v1.0:仅年收入低于 1000 万美元才授予商业使用许可;而 Moondream Model License 1.0:任何规模均可商用,但不得提供通用托管服务。
• 已发布 — 2026年10月27日 对比 2026年7月7日,其中 3 Preview 分支可追溯至 2025年9月18日。
内存这一行是人们通常会跳过的,但在边缘设备上,它却是决定性的全部理由。Moondream 的 2B 活跃参数使其每 token 成本与 LFM3-Omni-2B 一样低,但其 9B 总参数使它在相同精度下的内存占用最多可达后者的四倍。活跃参数决定计算量。总参数决定它是否能装得下。一个运行速度相同但需要 18 GB 的模型,不会和一个能装进 4.4 GB 的模型争夺同一个硬件槽位。

他们双方都报告的唯一基准
DocVQA 是文档问答任务,采用 ANLS 评分,在两份模型卡上,LFM3-Omni-2B 的读数为 92.47,而 Moondream 3.1 为 88.6。在这个视觉专家的主场,omni 模型领先 3.87 分。
对这一结果应当带着三点保留意见来解读,而这三点都至关重要。这两个数字都是由构建这些模型的实验室自行报告的。两家实验室都没有公布其评估工具链、提示格式或样本选择。而且,在一个不同评估工具链之间差异如此之大的基准上,3.87 分的差距只是提示性的,而非决定性的。这一行确实能确立的内容更窄,但仍然有用:LFM3-Omni-2B 在密集文档文本上并没有崩掉,而这正是你会预料一个 2.17B 的任意到任意模型会失手的任务。
不要将同样的解读推广到定位任务。LFM3-Omni-2B 报告 RefCOCO 为 73.55,Moondream 3.1 报告 RefCOCO-M 为 87.1,而这两者并非同一种测量。Liquid 的模型卡指出,边界框按各模型原生坐标格式读取;Moondream 报告的是 IoU 阈值为 0.5 时的 F1。将两者相减得到的数字毫无意义。诚实的说法是:Moondream 的模型卡围绕定位构建,而 Liquid 的模型卡将其视为十七行中的一行。
Moondream 3 不够接近之处
其中一部分是报告方式的选择,而非能力差距,值得精确区分哪些属于哪一种。一个 2.17B 的全模态模型,只要你用文字提问,几乎肯定能定位出一个大致区域。它做不到的是,在有界错误率下按某种 schema 返回 200 个框,因为它的训练数据和输出格式都不是为此构建的。Moondream 的整个产品就是一项保证:坐标会以可解析的形式返回。你买的就是这项保证,而其他实验室的基准测试榜单上没有任何一行能衡量它。

同样的逻辑反过来也适用于延迟。Moondream 推出了 Photon——一个可将模型编译成单个 GPU 程序的推理引擎,厂商声称在 H100 上、批大小为 16 时,每秒约可处理 34 个请求,P50 为 59 毫秒。这些是厂商数据,尚未复现,但其背后的工程实现是针对单一模型定制的。LFM3-Omni-2B 目前还没有同等水平的服务方案。
LFM3-Omni-2B 不够接近的地方
Moondream 3.1 没有音频通路。不是更弱的音频通路——而是完全没有。它的输入只有图像和文本,仅此而已。因此 Liquid 卡片上的每一行音频指标都毫无争议:英语 ASR 词错误率 6.36、多语言 ASR 6.72、英语 TTS UTMOSv2 3.80、VoiceBench 64.73、MMAR 51.40,以及一项内部工具调用评测 52.20。
真正值得单独指出的是带音轨视频上的那些数字,因为正是它们构成了该模型存在的理由。Daily-Omni 70.09、WorldSense 47.10、AV-SpeakerBench 46.79——全部是在带音轨的视频上测得的,指标为多项选择准确率,且均为自行报告。Liquid 声称,这些成绩超过了 Qwen2.5-Omni-7B 以及参数量最高达 10.7B 的模型,而在它自己的表格里确实如此:Qwen2.5-Omni-7B 在同样这三行上的得分分别为 61.32、45.37 和 43.24。
卡片上的一个细节值得比它目前得到的更多关注。Liquid 两次报告了相同的视觉基准——一次是问题以文本输入,一次是问题以语音输入。RealWorldQA 从 66.54 降至 64.68,MMStar 从 55.67 降至 51.79,POPE 从 89.34 降至 83.78。通过音频编码器输入问题会损失两到六分,具体取决于任务。这就是语音路径的代价,直白地说,而且它比任何单个头条分数都更有用。
Moondream 3 在 11 月 13 日会发生什么?
这是该对比中设有截止期限的部分。Prime Intellect于2026年10月13日宣布收购Moondream,Moondream于10月14日予以确认。该公告称,2026年11月13日,即公告发布三十天后,Moondream Cloud——包括托管推理服务和Lens微调产品——将关停。未使用的已购积分正在退还,客户被引导至收购方自家的推理平台。

接下来有三件事,只有第一件令人安心。开放权重得以保留,许可证也未改变,因此自托管不受影响。Photon 在 1.3.0 及更高版本上可本地免费运行,无需 API 密钥。无法干净保留下来的是 Lens:微调检查点和 LoRA 存放在服务器端,而且没有文档化的导出路径。如果你的产品依赖 Lens 微调,那么迁移并非只是改配置,而十六天并不足以让你发现这一点。
还有一个较小但值得提醒本周核对来源的人注意的怪现象。Moondream 的定价页面上仍然列出 Cloud 套餐、按 token 计费的价格以及每月 350 美元的 Team 层级,却对关停只字未提。公告在另一个页面上。如果读者在 10 月 28 日只查看定价页面,就不会知道该服务将在十六天后结束。
运行每一个需要多少成本
Moondream 公布了 token 费率:实时档每百万输入 token 0.30 美元、每百万输出 token 1.00 美元,批处理档减半至 0.15 美元和 0.50 美元。LFM3-Omni-2B 则完全没有公布托管费率。Liquid 表示该系列可在其 Playground 和 API 上使用,但发布帖未给出价格,模型卡也未给出价格。这种不对称正是成本故事所在。
在真实调用场景中算一算 Moondream 的成本。在完整分块(full tiling)下,单张图像最多消耗 2,304 个视觉 token;再加上 50 个 token 的提示词和 100 个输出 token,一次调用就是 2,354 个输入 token 和 100 个输出 token,约合 $0.0008。按每天 10,000 次调用计算,大约每天 $8,也就是每月 $242;若使用批处理层级,则降至每月约 $121。这是否便宜,完全取决于你原本会在硬件上花多少钱,而这正是 LFM3-Omni-2B 迫使你做的比较,因为它没有给你任何可按 token 计算的数字来与之权衡。
在你自己的硬件上,这笔账就反过来了。LFM3-Omni-2B 在 BF16 下权重大约 4.4 GB,这还没算上激活值、音频解码器和 KV 缓存——这个数字是按参数数量算出来的,并非实测占用,因为这款卡没有公布显存数据。Moondream 3.1 的正式发布版本需要一块 10 GB 的 NVIDIA 显卡,如果用社区的 INT4 量化版本则大约需要 6 GB。一个模型能在手机上跑,另一个则要 Jetson Orin 或更强的硬件。
在这里只用一句话提 OrcaRouter,是因为实话本就有限:LFM3-Omni-2B 和 Moondream 3 都不在我们的目录里,本文也从未声称我们提供其中任何一款。我们实际路由的是托管视觉层——例如 Qwen3-VL-8B——并按 0% 加价原样传递供应商标价,同时在上游之间自动故障转移。如果上面关于自托管的账目让你犹豫,那正是这项对比略去的选项,而它是另一种购买方式,并非更好的选择。
许可证可能会在基准测试之前做出决定。
这两种许可证限制的内容各不相同,至于哪一种会对你产生实际影响,则取决于你公司的具体情况。
LFM 开放许可证 v1.0 规定了 10,000,000 美元的年收入门槛。低于该门槛,商业使用可直接获得许可。高于该门槛,第 5 条明确规定,本作品或其衍生作品的商业使用完全不在该协议的许可范围内。因此,初创公司可以免费基于 LFM3-Omni-2B 构建产品,而超过门槛的公司若不另行达成协议则不能这样做——无论该模型有多出色。
Moondream Model License 1.0 没有收入门槛。它允许任何规模的商业使用、自托管、微调、量化和再分发,并且禁止一项特定业务:在没有另行签订书面商业许可的情况下,为该模型或其衍生模型提供通用托管模型服务。将 Moondream 嵌入更窄范围的产品中是允许的。对其转售通用推理服务则不允许。
这两份文件放在一起读,几乎是互补的。Liquid 按“你是谁”设限;Moondream 按“你卖什么”设限。一家计划推出托管推理产品的大公司,会以不同的方式被两者同时挡住。
谁应该选哪个
如果产品需要坐标,就选 Moondream 3.1。屏幕自动化、机器人、零售货架审计、计数,以及任何答案是框、点或掩码、且由下一个系统以编程方式消费的场景。9B 的总规模就是这项保证的代价,而如果你要部署在 Jetson 级别的硬件上,这个代价你付得起。现在就规划托管迁移,别等到十一月。
如果产品涉及人与设备对话,或设备必须能听见整个房间,就选 LFM3-Omni-2B。会出声回答的自助终端、双手忙碌时使用的现场工具、需要结合配乐理解视频的摄像头,以及用单个检查点替代 ASR 模型加 VLM 模型加 TTS 模型。视觉得分算不错但算不上出色,工具链才刚推出一天,而语音路径正是让人接受这两点的理由。
两个都别选——但如果这个决定至关重要的话。这里没有任何内容经过独立评估。LFM3-Omni-2B 的工具链正在快速推进——Ollama 库中已有一个 2.4 GB 的条目,llama.cpp 也在 10 月 27 日合并了对它的支持,同一天权重也发布了——但 Ollama 的列表目前与模型卡在两个明显方面存在出入,显示的是 125K 上下文和“文本、图像”作为支持的输入,而模型卡上写的是 32K 和四种模态。这是列表尚未跟上,而非模型缺陷,而且这类问题通常一周内就会修复。它也不是本周就该投入生产的东西。
什么会改变这一点
有两件事。对 LFM3-Omni-2B 在音视频条目上的独立评估,将判定 Daily-Omni 上的 70.09 能否在一个并非它自选的评测框架下站得住脚,而整个 omni 论证所依赖的正是这一个数字。还有语音分支的服务化方案——模型卡详细记录了文本生成,却对音频解码器如何大规模提供服务着墨甚少——这会告诉你“一个模型替代四个”的卖点能否经得起生产部署的检验。
在那之前,这种比较有一个清晰的轮廓。Moondream 3 测量世界,并把数字交给你。LFM3-Omni-2B 倾听它并回话。它们唯一共用的基准测试是一项文档阅读测试,而这个 omni 模型以不到四分的优势赢下了它。这不是一场竞争。它提醒我们,“2B 多模态”描述的是内存预算,而不是一项任务。
