
LFM3-Omni-2B 與 Moondream 3:一項共同基準,兩種不同任務
- Orca新OrcaCyber: GLM 5.3 Flash Abliterated2026-10-2779 tok/s
- Orca新OrcaCyber: Qwen3.8 Flash Next Abliterated2026-10-26$0.80 / $1.60 每百萬 tokens · 283 tok/s
- Orca新OrcaCyber: MiMo V2.6 Flash Abliterated2026-10-26$0.80 / $1.60 每百萬 tokens · 82 tok/s
- Moonshot新MoonshotAI: Kimi K3.1 Pro2026-10-2455智能
- Orca新OrcaCyber: DeepSeek V4.1 Flash Abliterated2026-10-23$0.80 / $1.60 每百萬 tokens · 119 tok/s
- minimax新MiniMax: M3.1 Flash2026-10-1943智能
- Orca新Orca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 44 tok/s
- deepseek新DeepSeek: DeepSeek V4.1 Flash 10172026-10-1745智能
- DeepSeek新DeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百萬 tokens · 113 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百萬 tokens · 701 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2248智能
- AnthropicAnthropic: Claude Opus 5.52026-09-2258智能
- xiaomiXiaomi: MiMo-V2.6-Flash2026-09-2138智能
- xiaomiXiaomi: MiMo-V2.6-Pro2026-09-2146智能
- xAIGrok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百萬 tokens · 160 tok/s
把LFM3-Omni-2B與Moondream 3並排放在一起,規格表看起來就像兄弟姊妹。兩者都是小型多模態模型,瞄準手機、筆記型電腦、相機和機器人。兩者都具備 32K 上下文。兩者都讓約二十億個參數在每個 token 上發揮作用。兩者都提供你今天就能下載的開放權重。搜尋它們之間的正面對決,你會一無所獲,而這正是為什麼這種配對不斷被拿來比較。
然後你仔細閱讀那兩張模型卡,就會發現相似之處以一種很容易查核的方式瓦解。兩張卡唯一共同報告的基準是 DocVQA,其中 LFM3-Omni-2B 得分 92.47,Moondream 3.1 9B A2B 得分 88.6。它們所測量的其餘項目彼此互不重疊。一個模型回傳口語句子。另一個回傳邊界框。它們並不是同一個問題的兩個答案。
關於名稱的說明,因為這份目錄令人困惑。Moondream 3 Preview 於 2025 年 9 月 18 日推出,Moondream 3.1 9B A2B 則於 2026 年 7 月 7 日推出;本文中每個 Moondream 數字都來自 3.1 的模型卡,也就是你可以下載的檢查點。LFM3-Omni-2B 於 2026 年 10 月 27 日發佈,是 Liquid AI 的 LFM3 系列六個模型之一。兩者在這裡唯一重要的意義上都是全新的:兩者都尚未由其開發公司以外的任何人評估過。
每個模型實際回傳的內容
最根本的差異不在參數數量,而在輸出契約。
Moondream 3.1 提供五種具有固定結構的技能:query、caption、detect、point與segment。偵測最多傳回 200 個邊框,指向最多 64 個點,分割最多 50 個 COCO-RLE 遮罩,全部以 JSON 形式呈現,並使用正規化 0–1 座標。它是一種空間量測工具,具有狹窄且可預測的介面。你可以將其輸出直接接入 UI 自動化工具或機器人規劃器,無需 LLM 解析層,因為輸出已經是結構化的。
LFM3-Omni-2B 沒有這種契約。它接受文字、圖像、含或不含聲軌的影片,以及 16 kHz 音訊,並生成文字、24 kHz 語音,或兩者交錯輸出。它沒有座標輸出通道。如果你想從它取得位置,你得用自然語言提問,再解析答案,這與能保證輸出邊框的結構描述屬於不同的可靠性等級。
光是這一個差異,就比任何一列效能評測數據更能決定部署的成敗。把一個模型 ID 換成另一個,並不叫遷移,而是把所有消費該回應的東西整個重寫一遍。
並排的規格表
• 參數 — LFM3-Omni-2B 總計 2.17B,全部常駐並參與運算;相較之下,Moondream 3.1 總計 9.0B,每個 token 啟用 2.0B。
• 閒置記憶體 — 以 2.17B 參數推算,BF16 約 4.4 GB,相較之下 FP16 約 18 GB、社群 INT4 約 6 GB,而已出貨的 fp8 版本在 NVIDIA 上則有 10 GB 下限。
• 輸入 — 文字、圖像、以 2 fps 呈現且含或不含音訊的影片,以及 16 kHz 語音,對比僅有圖像與文字。
• 輸出 — 文字、24 kHz 語音,或交錯式與文字、JSON、正規化座標和遮罩。
• 上下文 — 32,768 個 token(計入輸入加輸出)對比 32,768 個文字 token 加上最多 12 個影像圖塊,約 2,304 個視覺 token。
• 視覺預算 — 原生解析度下每張圖片最多 2,048 個 token,相較於自適應平鋪至 384–1024 px 的 12 個裁切
• 授權 — LFM Open License v1.0,僅年營收低於 1,000 萬美元者方可取得商業使用授權;相較之下,Moondream Model License 1.0 不限規模皆可商業使用,但不得提供通用型託管服務。
• 已發佈 — 2026年10月27日 對比 2026年7月7日,而 3 Preview 分支則可追溯至 2025年9月18日。
記憶體那一列是人們常跳過的一項,但在邊緣裝置上,它正是整個論點的核心。Moondream 的 2B 活躍參數讓它每個 token 的成本與 LFM3-Omni-2B 一樣低,但其 9B 總參數使它在相同精度下佔用的記憶體最多可達四倍。活躍參數決定運算量。總參數決定它是否裝得下。一個執行速度相同但需要 18 GB 的模型,並不是在與一個只需 4.4 GB 就能放進去的模型競爭同一個硬體位置。

他們雙方都有報告的唯一基準
DocVQA 是文件問答任務,以 ANLS 計分,而在兩張模型卡上,LFM3-Omni-2B 的成績是 92.47,Moondream 3.1 則是 88.6。這款 omni 模型在視覺專門模型最擅長的領域上領先 3.87 分。
這個結果應該帶著三點保留意見來解讀,而且這三點都至關重要。這兩項數字都是由打造模型的實驗室自行報告。兩家實驗室都沒有公布其評估測試框架、提示格式或樣本選取方式。而在測試框架之間變異如此大的基準測試上,3.87 分的差距只是具提示性,而非決定性。這一列確實確立的是更狹窄但仍有用的一點:LFM3-Omni-2B 在密集文件文本上不會失常,而這正是你會預期一個 2.17B 任意對任意模型會失手的任務。
別把同樣的解讀延伸到 grounding。LFM3-Omni-2B 回報 RefCOCO 為 73.55,Moondream 3.1 回報 RefCOCO-M 為 87.1,而這兩者不是同一種測量。Liquid 的模型卡指出,邊界框是依各模型原生的座標格式讀取;Moondream 回報的是 IoU 閾值 0.5 下的 F1。將兩者相減得到的數字毫無意義。誠實的說法是:Moondream 的模型卡是圍繞 grounding 建立的,而 Liquid 的模型卡則把它視為十七列中的其中一列。
Moondream 3 不夠接近的地方
其中有些是報告方式的選擇,而非能力差距,值得精確指出是哪一種。一個 2.17B 的全模態模型,若你用文字詢問,幾乎肯定能定位出大致區域。它做不到的是,在具有有界錯誤率的結構定義中回傳 200 個邊框,因為它的訓練或輸出格式中沒有任何部分是为此打造。Moondream 的整個產品,就是保證座標會以可解析的形式回傳。你買的就是這份保證,而其他實驗室的任何基準測試列都不衡量它。

同樣的邏輯在延遲方面則反過來。Moondream 推出 Photon,這是一款推論引擎,會將模型編譯成單一 GPU 程式,而廠商宣稱在 H100 上、批次大小為 16 時,每秒約可處理 34 個請求,P50 為 59 毫秒。這些是廠商數據,尚未經過重現,但其背後的工程設計是針對單一模型。LFM3-Omni-2B 目前還沒有同等的服務方案。
LFM3-Omni-2B 還不夠接近的地方
Moondream 3.1 沒有音訊路徑。不是較弱的一條——是根本沒有。它的輸入是圖像與文字,僅此而已。因此 Liquid 卡上的每一列音訊項目都無人競爭:英文 ASR 詞錯誤率 6.36、多語言 ASR 6.72、英文 TTS UTMOSv2 3.80、VoiceBench 64.73、MMAR 51.40,以及內部工具呼叫評測 52.20。
帶音軌影片的數字才值得特別挑出來說,因為它們正是這個模型存在的理由。Daily-Omni 70.09、WorldSense 47.10、AV-SpeakerBench 46.79——全都是在帶有音軌的影片上測得的多選題準確率,而且全部是自報數據。Liquid 宣稱這些成績勝過 Qwen2.5-Omni-7B 以及參數量最高達 10.7B 的模型,而在它自家的表格裡確實如此:Qwen2.5-Omni-7B 在相同這三行上的得分為 61.32、45.37 和 43.24。
那張卡片上有一個細節,值得比它實際獲得的更多關注。Liquid 將同一批視覺基準測試回報了兩次——一次是問題以文字輸入,一次是問題以語音提出。RealWorldQA 從 66.54 降到 64.68,MMStar 從 55.67 降到 51.79,POPE 從 89.34 降到 83.78。把問題送進音訊編碼器,依任務不同會付出兩到六分的代價。這就是語音路徑的代價,直白地說,而它比任何單一的頭條分數都更有用。
Moondream 3 在 11 月 13 日會發生什麼事?
這是比較中具有截止期限的部分。Prime Intellect 於 2026 年 10 月 13 日宣布收購 Moondream,Moondream 則於 10 月 14 日確認此事。該公告指出,2026 年 11 月 13 日,即宣布後三十天,Moondream Cloud——包括託管推論與 Lens 微調產品——將會關閉。已購買但未使用的額度正在退款,客戶則被引導至收購方自家的推論平台。

接下來有三件事,只有第一件令人放心。開放權重得以保留,授權條款也未變,因此自架不受影響。Photon 從 1.3.0 版起可在本機免費執行,無需 API key。無法乾淨存續的是 Lens:微調檢查點與 LoRAs 存放在伺服器端,而且沒有文件記載的匯出途徑。如果你的產品依賴 Lens 微調,遷移並不是變更設定,而要發現這一點,十六天並不算多。
有個較小的古怪之處,值得提醒本週查核來源的人。Moondream 的定價頁面仍列出 Cloud 方案、按 token 計費的費率,以及每月 350 美元的 Team 方案,卻隻字未提停止服務一事。公告放在另一個頁面。若讀者在 10 月 28 日只查看定價頁,就不會知道該服務將在十六天後終止。
每一個的運作成本是多少
Moondream 公布了 token 費率:即時層級每百萬輸入 token 為 $0.30、每百萬輸出 token 為 $1.00,批次則減半為 $0.15 與 $0.50。LFM3-Omni-2B 則完全沒有公布任何託管費率。Liquid 表示該系列模型可在其 Playground 與 API 上使用,但發布文章未載明價格,模型卡也未載明價格。這種不對稱正是成本方面的重點。
用一次真實呼叫來算一下 Moondream 的成本。在完整分塊下,單張圖片最多要花費 2,304 個視覺 token;再加上 50 個 token 的提示詞與 100 個輸出 token,一次呼叫就是 2,354 個輸入 token 和 100 個輸出 token,約 $0.0008。每天 10,000 次呼叫的話,大約是每天 $8,或每月 $242;若採用批次方案,則降至每月約 $121。這是否便宜,完全取決於你原本會在硬體上花多少錢;而這正是 LFM3-Omni-2B 逼你做出的比較,因為它沒有提供任何每 token 的數字,讓你拿來與它權衡。
在自己的硬體上,這個算術結果會反過來。LFM3-Omni-2B 在 BF16 下約有 4.4 GB 的權重,這還不包括激活值、音訊解碼器和 KV 快取——這是根據參數量推算出來的,並非實測佔用量,因為該卡並未公布記憶體數字。Moondream 3.1 的正式發行版本需要 10 GB 的 NVIDIA 顯示卡,或搭配社群 INT4 量化約需 6 GB。其中一個模型能在手機上執行。另一個則需要 Jetson Orin 或更高等級的硬體。
OrcaRouter 在這裡值得用一句話說明,只因為誠實的版本範圍很窄:LFM3-Omni-2B 和 Moondream 3 都不在我們的目錄中,而本文也沒有任何地方聲稱我們提供其中任何一個。我們實際路由的是託管視覺層級——例如 Qwen3-VL-8B——並將 供應商定價以 0% 加價轉嫁以及上游之間的自動容錯移轉。如果上方自行架設的成本計算讓你猶豫,那正是這項比較所省略的選項,而且那是不同的購買選擇,而不是更好的選擇。
授權可能在基準測試之前就決定
這兩種授權各自限制的層面不同,至於哪一種會對你造成影響,取決於你公司的實際情況。
LFM Open License v1.0 定義了年營收 10,000,000 美元的門檻。低於此門檻時,商業使用可直接取得授權。高於此門檻時,第 5 條明確規定,本作品或其衍生物的商業使用完全不在本協議的授權範圍內。因此,新創公司可以免費在 LFM3-Omni-2B 上打造產品,而超過門檻的公司若無另行協議就不能這麼做——無論該模型有多好。
Moondream Model License 1.0 沒有營收門檻。它允許任何規模的商業使用、自我託管、微調、量化與再散布,並禁止一項特定業務:在沒有另行取得書面商業授權的情況下,為該模型或其衍生作品提供通用型託管模型服務。將 Moondream 嵌入範圍較窄的產品中是允許的。轉售其通用型推論服務則不允許。
兩份文件合起來讀,幾乎互為補充。Liquid 依你的身分把關;Moondream 則依你販售的內容把關。一家正計畫推出託管推論產品的大型公司,會以不同的方式被這兩者擋下。
誰應該選哪個?
如果產品需要座標,就選 Moondream 3.1。螢幕自動化、機器人、零售貨架稽核、計數,以及任何答案是一個框、一個點或一個遮罩,且下一個系統會以程式方式消費它的情境,都屬於這類。總計 9B 的規模是這項保證的代價;如果你部署在 Jetson 等級的硬體上,這是你付得起的代價。現在就規劃主機託管遷移,而不是等到十一月。
如果產品涉及人對裝置說話,或裝置必須聽見整個房間的聲音,就選 LFM3-Omni-2B。會出聲回答的自助服務機、雙手忙不過來的現場工具、必須連同原聲一起理解影片的攝影機,或以單一 checkpoint 取代 ASR 模型加 VLM 加 TTS 模型的方案。視覺分數稱得上不錯,但還不到特別突出;工具鏈才剛問世一天;而語音這條路徑,正是讓人願意接受前兩項取捨的理由。
兩者都別選,不過,如果這項決定具有關鍵影響的話。這裡沒有任何東西經過獨立評估。LFM3-Omni-2B 的工具生態進展迅速——Ollama 函式庫中已有一筆 2.4 GB 的項目,而 llama.cpp 於 10 月 27 日合併了對它的支援,同日權重發布——但 Ollama 的清單目前與模型卡有兩處明顯不符:它顯示 125K 上下文,並將「Text, Image」列為支援輸入,而模型卡寫的是 32K 與四種模態。這是清單尚未跟上,不是模型缺陷,而且是那種一週內就會修好的事。這也不是本週該放進生產環境的東西。
什麼會改變這個
兩件事。對 LFM3-Omni-2B 在音視訊列上進行獨立評估,將能判定 Daily-Omni 上的 70.09 是否能在並非由其自選的評測框架下成立,而這正是整個 omni 論證所倚賴的唯一數字。另外,針對語音分支提出一套服務化方案——模型卡詳細記載了文字生成,卻對音訊解碼器如何在大規模情境下提供服務著墨甚少——就能看出「一個模型取代四個模型」的賣點在實際生產部署中是否站得住腳。
在那之前,這項比較有著清楚的輪廓。Moondream 3 丈量世界,把數字交到你手上。LFM3-Omni-2B 聆聽它,再回話。它們唯一共用的基準測試是文件閱讀測試,而 omni 模型以不到四分的差距勝出。那不是競爭對抗。這是在提醒我們,「2B 多模態」描述的是記憶體預算,不是工作任務。
