一張生成的主視覺卡片,標題為「LFM3-Omni-2B vs Moondream 3」,副標題為「同一組別,不同任務」;左側面板顯示文字、圖像、影片與音訊圖磚流入「文字 + 24 kHz 語音」圖磚,右側面板顯示圖像與文字圖磚流入「方框、點、遮罩」圖磚;一行醒目標示寫著「DocVQA 92.47 vs 88.6」;頁尾寫著「兩項數據皆為廠商提供;未經獨立評估」。OrcaRouter 標誌位於右下角。
Guides & Insights

LFM3-Omni-2B 與 Moondream 3:一項共同基準,兩種不同任務

作者

Elias Hawthorne

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

把LFM3-Omni-2B與Moondream 3並排放在一起,規格表看起來就像兄弟姊妹。兩者都是小型多模態模型,瞄準手機、筆記型電腦、相機和機器人。兩者都具備 32K 上下文。兩者都讓約二十億個參數在每個 token 上發揮作用。兩者都提供你今天就能下載的開放權重。搜尋它們之間的正面對決,你會一無所獲,而這正是為什麼這種配對不斷被拿來比較。

然後你仔細閱讀那兩張模型卡,就會發現相似之處以一種很容易查核的方式瓦解。兩張卡唯一共同報告的基準是 DocVQA,其中 LFM3-Omni-2B 得分 92.47,Moondream 3.1 9B A2B 得分 88.6。它們所測量的其餘項目彼此互不重疊。一個模型回傳口語句子。另一個回傳邊界框。它們並不是同一個問題的兩個答案。

關於名稱的說明,因為這份目錄令人困惑。Moondream 3 Preview 於 2025 年 9 月 18 日推出,Moondream 3.1 9B A2B 則於 2026 年 7 月 7 日推出;本文中每個 Moondream 數字都來自 3.1 的模型卡,也就是你可以下載的檢查點。LFM3-Omni-2B 於 2026 年 10 月 27 日發佈,是 Liquid AI 的 LFM3 系列六個模型之一。兩者在這裡唯一重要的意義上都是全新的:兩者都尚未由其開發公司以外的任何人評估過。

每個模型實際回傳的內容

最根本的差異不在參數數量,而在輸出契約。

Moondream 3.1 提供五種具有固定結構的技能:query、caption、detect、point與segment。偵測最多傳回 200 個邊框,指向最多 64 個點,分割最多 50 個 COCO-RLE 遮罩,全部以 JSON 形式呈現,並使用正規化 0–1 座標。它是一種空間量測工具,具有狹窄且可預測的介面。你可以將其輸出直接接入 UI 自動化工具或機器人規劃器,無需 LLM 解析層,因為輸出已經是結構化的。

LFM3-Omni-2B 沒有這種契約。它接受文字、圖像、含或不含聲軌的影片,以及 16 kHz 音訊,並生成文字、24 kHz 語音,或兩者交錯輸出。它沒有座標輸出通道。如果你想從它取得位置,你得用自然語言提問,再解析答案,這與能保證輸出邊框的結構描述屬於不同的可靠性等級。

光是這一個差異,就比任何一列效能評測數據更能決定部署的成敗。把一個模型 ID 換成另一個,並不叫遷移,而是把所有消費該回應的東西整個重寫一遍。

並排的規格表

• 參數 — LFM3-Omni-2B 總計 2.17B,全部常駐並參與運算;相較之下,Moondream 3.1 總計 9.0B,每個 token 啟用 2.0B。

• 閒置記憶體 — 以 2.17B 參數推算,BF16 約 4.4 GB,相較之下 FP16 約 18 GB、社群 INT4 約 6 GB,而已出貨的 fp8 版本在 NVIDIA 上則有 10 GB 下限。

• 輸入 — 文字、圖像、以 2 fps 呈現且含或不含音訊的影片,以及 16 kHz 語音,對比僅有圖像與文字。

• 輸出 — 文字、24 kHz 語音,或交錯式與文字、JSON、正規化座標和遮罩。

• 上下文 — 32,768 個 token(計入輸入加輸出)對比 32,768 個文字 token 加上最多 12 個影像圖塊,約 2,304 個視覺 token。

• 視覺預算 — 原生解析度下每張圖片最多 2,048 個 token,相較於自適應平鋪至 384–1024 px 的 12 個裁切

• 授權 — LFM Open License v1.0,僅年營收低於 1,000 萬美元者方可取得商業使用授權;相較之下,Moondream Model License 1.0 不限規模皆可商業使用,但不得提供通用型託管服務。

• 已發佈 — 2026年10月27日 對比 2026年7月7日,而 3 Preview 分支則可追溯至 2025年9月18日。

記憶體那一列是人們常跳過的一項,但在邊緣裝置上,它正是整個論點的核心。Moondream 的 2B 活躍參數讓它每個 token 的成本與 LFM3-Omni-2B 一樣低,但其 9B 總參數使它在相同精度下佔用的記憶體最多可達四倍。活躍參數決定運算量。總參數決定它是否裝得下。一個執行速度相同但需要 18 GB 的模型,並不是在與一個只需 4.4 GB 就能放進去的模型競爭同一個硬體位置。

A generated two-column scoreboard titled 'LFM3-Omni-2B vs Moondream 3 — the scoreboard'. The left column lists Parameters 2.17B total, Input text, image, video, audio, Output text + 24 kHz speech, Context 32,768 tokens, DocVQA 92.47 and Licence LFM Open License v1.0. The right column lists Parameters 9B total, 2B active, Input image and text only, Output text, boxes, points, masks, Context 32,768 tokens, DocVQA 88.6 and Licence Moondream Model License 1.0, above a footer reading 'Both columns vendor-reported: Liquid AI and Moondream model cards. No independent evaluation.'

他們雙方都有報告的唯一基準

DocVQA 是文件問答任務,以 ANLS 計分,而在兩張模型卡上,LFM3-Omni-2B 的成績是 92.47,Moondream 3.1 則是 88.6。這款 omni 模型在視覺專門模型最擅長的領域上領先 3.87 分。

這個結果應該帶著三點保留意見來解讀,而且這三點都至關重要。這兩項數字都是由打造模型的實驗室自行報告。兩家實驗室都沒有公布其評估測試框架、提示格式或樣本選取方式。而在測試框架之間變異如此大的基準測試上,3.87 分的差距只是具提示性,而非決定性。這一列確實確立的是更狹窄但仍有用的一點:LFM3-Omni-2B 在密集文件文本上不會失常,而這正是你會預期一個 2.17B 任意對任意模型會失手的任務。

別把同樣的解讀延伸到 grounding。LFM3-Omni-2B 回報 RefCOCO 為 73.55,Moondream 3.1 回報 RefCOCO-M 為 87.1,而這兩者不是同一種測量。Liquid 的模型卡指出,邊界框是依各模型原生的座標格式讀取;Moondream 回報的是 IoU 閾值 0.5 下的 F1。將兩者相減得到的數字毫無意義。誠實的說法是:Moondream 的模型卡是圍繞 grounding 建立的,而 Liquid 的模型卡則把它視為十七列中的其中一列。

Moondream 3 不夠接近的地方

其中有些是報告方式的選擇,而非能力差距,值得精確指出是哪一種。一個 2.17B 的全模態模型,若你用文字詢問,幾乎肯定能定位出大致區域。它做不到的是,在具有有界錯誤率的結構定義中回傳 200 個邊框,因為它的訓練或輸出格式中沒有任何部分是为此打造。Moondream 的整個產品,就是保證座標會以可解析的形式回傳。你買的就是這份保證,而其他實驗室的任何基準測試列都不衡量它。

A headless-browser capture of the Moondream 3.1 9B A2B model page, showing the PRELIMINARY benchmark banner, the model-facts panel listing 9.0B total and 2.0B active parameters, a 32,768-token context, image and text input, fp8 experts on a 10 GB NVIDIA floor, and the start of the 'Five typed contracts' section with the input and output schemas for the query(), caption() and detect() skills.

同樣的邏輯在延遲方面則反過來。Moondream 推出 Photon,這是一款推論引擎,會將模型編譯成單一 GPU 程式,而廠商宣稱在 H100 上、批次大小為 16 時,每秒約可處理 34 個請求,P50 為 59 毫秒。這些是廠商數據,尚未經過重現,但其背後的工程設計是針對單一模型。LFM3-Omni-2B 目前還沒有同等的服務方案。

LFM3-Omni-2B 還不夠接近的地方

Moondream 3.1 沒有音訊路徑。不是較弱的一條——是根本沒有。它的輸入是圖像與文字,僅此而已。因此 Liquid 卡上的每一列音訊項目都無人競爭:英文 ASR 詞錯誤率 6.36、多語言 ASR 6.72、英文 TTS UTMOSv2 3.80、VoiceBench 64.73、MMAR 51.40,以及內部工具呼叫評測 52.20。

帶音軌影片的數字才值得特別挑出來說,因為它們正是這個模型存在的理由。Daily-Omni 70.09、WorldSense 47.10、AV-SpeakerBench 46.79——全都是在帶有音軌的影片上測得的多選題準確率,而且全部是自報數據。Liquid 宣稱這些成績勝過 Qwen2.5-Omni-7B 以及參數量最高達 10.7B 的模型,而在它自家的表格裡確實如此:Qwen2.5-Omni-7B 在相同這三行上的得分為 61.32、45.37 和 43.24。

那張卡片上有一個細節,值得比它實際獲得的更多關注。Liquid 將同一批視覺基準測試回報了兩次——一次是問題以文字輸入,一次是問題以語音提出。RealWorldQA 從 66.54 降到 64.68,MMStar 從 55.67 降到 51.79,POPE 從 89.34 降到 83.78。把問題送進音訊編碼器,依任務不同會付出兩到六分的代價。這就是語音路徑的代價,直白地說,而它比任何單一的頭條分數都更有用。

Moondream 3 在 11 月 13 日會發生什麼事?

這是比較中具有截止期限的部分。Prime Intellect 於 2026 年 10 月 13 日宣布收購 Moondream,Moondream 則於 10 月 14 日確認此事。該公告指出,2026 年 11 月 13 日,即宣布後三十天,Moondream Cloud——包括託管推論與 Lens 微調產品——將會關閉。已購買但未使用的額度正在退款,客戶則被引導至收購方自家的推論平台。

A headless-browser capture of Moondream's announcement post titled 'Moondream is joining Prime Intellect', dated October 14, 2026, showing the section headed 'What this means for Moondream Cloud' with the sentence that on November 13, 2026, thirty days from that date, the Moondream Cloud for inference and Lens will shut down, and that unspent purchased credits will be refunded.

接下來有三件事,只有第一件令人放心。開放權重得以保留,授權條款也未變,因此自架不受影響。Photon 從 1.3.0 版起可在本機免費執行,無需 API key。無法乾淨存續的是 Lens:微調檢查點與 LoRAs 存放在伺服器端,而且沒有文件記載的匯出途徑。如果你的產品依賴 Lens 微調,遷移並不是變更設定,而要發現這一點,十六天並不算多。

有個較小的古怪之處,值得提醒本週查核來源的人。Moondream 的定價頁面仍列出 Cloud 方案、按 token 計費的費率,以及每月 350 美元的 Team 方案,卻隻字未提停止服務一事。公告放在另一個頁面。若讀者在 10 月 28 日只查看定價頁,就不會知道該服務將在十六天後終止。

每一個的運作成本是多少

Moondream 公布了 token 費率:即時層級每百萬輸入 token 為 $0.30、每百萬輸出 token 為 $1.00,批次則減半為 $0.15 與 $0.50。LFM3-Omni-2B 則完全沒有公布任何託管費率。Liquid 表示該系列模型可在其 Playground 與 API 上使用,但發布文章未載明價格,模型卡也未載明價格。這種不對稱正是成本方面的重點。

用一次真實呼叫來算一下 Moondream 的成本。在完整分塊下,單張圖片最多要花費 2,304 個視覺 token;再加上 50 個 token 的提示詞與 100 個輸出 token,一次呼叫就是 2,354 個輸入 token 和 100 個輸出 token,約 $0.0008。每天 10,000 次呼叫的話,大約是每天 $8,或每月 $242;若採用批次方案,則降至每月約 $121。這是否便宜,完全取決於你原本會在硬體上花多少錢;而這正是 LFM3-Omni-2B 逼你做出的比較,因為它沒有提供任何每 token 的數字,讓你拿來與它權衡。

在自己的硬體上,這個算術結果會反過來。LFM3-Omni-2B 在 BF16 下約有 4.4 GB 的權重,這還不包括激活值、音訊解碼器和 KV 快取——這是根據參數量推算出來的,並非實測佔用量,因為該卡並未公布記憶體數字。Moondream 3.1 的正式發行版本需要 10 GB 的 NVIDIA 顯示卡,或搭配社群 INT4 量化約需 6 GB。其中一個模型能在手機上執行。另一個則需要 Jetson Orin 或更高等級的硬體。

OrcaRouter 在這裡值得用一句話說明,只因為誠實的版本範圍很窄:LFM3-Omni-2B 和 Moondream 3 都不在我們的目錄中,而本文也沒有任何地方聲稱我們提供其中任何一個。我們實際路由的是託管視覺層級——例如 Qwen3-VL-8B——並將 供應商定價以 0% 加價轉嫁以及上游之間的自動容錯移轉。如果上方自行架設的成本計算讓你猶豫,那正是這項比較所省略的選項,而且那是不同的購買選擇,而不是更好的選擇。

授權可能在基準測試之前就決定

這兩種授權各自限制的層面不同,至於哪一種會對你造成影響,取決於你公司的實際情況。

LFM Open License v1.0 定義了年營收 10,000,000 美元的門檻。低於此門檻時,商業使用可直接取得授權。高於此門檻時,第 5 條明確規定,本作品或其衍生物的商業使用完全不在本協議的授權範圍內。因此,新創公司可以免費在 LFM3-Omni-2B 上打造產品,而超過門檻的公司若無另行協議就不能這麼做——無論該模型有多好。

Moondream Model License 1.0 沒有營收門檻。它允許任何規模的商業使用、自我託管、微調、量化與再散布,並禁止一項特定業務:在沒有另行取得書面商業授權的情況下,為該模型或其衍生作品提供通用型託管模型服務。將 Moondream 嵌入範圍較窄的產品中是允許的。轉售其通用型推論服務則不允許。

兩份文件合起來讀,幾乎互為補充。Liquid 依你的身分把關;Moondream 則依你販售的內容把關。一家正計畫推出託管推論產品的大型公司,會以不同的方式被這兩者擋下。

誰應該選哪個?

如果產品需要座標,就選 Moondream 3.1。螢幕自動化、機器人、零售貨架稽核、計數,以及任何答案是一個框、一個點或一個遮罩,且下一個系統會以程式方式消費它的情境,都屬於這類。總計 9B 的規模是這項保證的代價;如果你部署在 Jetson 等級的硬體上,這是你付得起的代價。現在就規劃主機託管遷移,而不是等到十一月。

如果產品涉及人對裝置說話,或裝置必須聽見整個房間的聲音,就選 LFM3-Omni-2B。會出聲回答的自助服務機、雙手忙不過來的現場工具、必須連同原聲一起理解影片的攝影機,或以單一 checkpoint 取代 ASR 模型加 VLM 加 TTS 模型的方案。視覺分數稱得上不錯,但還不到特別突出;工具鏈才剛問世一天;而語音這條路徑,正是讓人願意接受前兩項取捨的理由。

兩者都別選,不過,如果這項決定具有關鍵影響的話。這裡沒有任何東西經過獨立評估。LFM3-Omni-2B 的工具生態進展迅速——Ollama 函式庫中已有一筆 2.4 GB 的項目,而 llama.cpp 於 10 月 27 日合併了對它的支援,同日權重發布——但 Ollama 的清單目前與模型卡有兩處明顯不符:它顯示 125K 上下文,並將「Text, Image」列為支援輸入,而模型卡寫的是 32K 與四種模態。這是清單尚未跟上,不是模型缺陷,而且是那種一週內就會修好的事。這也不是本週該放進生產環境的東西。

什麼會改變這個

兩件事。對 LFM3-Omni-2B 在音視訊列上進行獨立評估,將能判定 Daily-Omni 上的 70.09 是否能在並非由其自選的評測框架下成立,而這正是整個 omni 論證所倚賴的唯一數字。另外,針對語音分支提出一套服務化方案——模型卡詳細記載了文字生成,卻對音訊解碼器如何在大規模情境下提供服務著墨甚少——就能看出「一個模型取代四個模型」的賣點在實際生產部署中是否站得住腳。

在那之前,這項比較有著清楚的輪廓。Moondream 3 丈量世界,把數字交到你手上。LFM3-Omni-2B 聆聽它,再回話。它們唯一共用的基準測試是文件閱讀測試,而 omni 模型以不到四分的差距勝出。那不是競爭對抗。這是在提醒我們,「2B 多模態」描述的是記憶體預算,不是工作任務。