一張標題為 Molmo2-4B vs Moondream 3 的主視覺卡片,眉標為「Moondream Cloud 將於 2026 年 11 月 13 日關閉」,副標題為「一個託管選項將在七天後結束。」Molmo2-4B 卡片列出 4.85B 稠密參數、36,864 個位置、圖像、多圖、影片、帶時間戳的點,以及 Apache 2.0 權重。Moondream 3.1 卡片列出總計 9.0B、啟用 2.0B、32,768 個 token、每次呼叫一張影像,以及 Moondream License 1.0。頁尾寫著「兩家廠商皆未發布共同的基準測試。」OrcaRouter 標誌位於主視覺下方的白色橫條中。
Guides & Insights

Molmo2-4B 與 Moondream 3:其中一個託管選項將於 11 月 13 日關閉

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

這個比較附有一個日期,而那個日期就在一週後。Moondream Cloud——業務中的推論與 Lens 部分——將於 2026 年 11 月 13 日關閉,也就是在 Moondream 宣布被 Prime Intellect 收購後的三十天。未使用的已購買額度正在退款。如果你曾建構於 Moondream 3 託管端點之上,實際問題已不再是「Molmo2-4B 還是 Moondream 3」,而是「我該自行運行哪一組開放權重」。兩個模型都能在關閉後留存。只有其中一個曾經擁有可失去的託管 API。

值得精確說明這裡比較的是哪一個 Moondream,因為這個名稱常被寬鬆使用。Moondream 3 Preview 於 2025 年 9 月登上 Hugging Face。目前版本是 Moondream 3.1,於 2026 年 7 月 7 日以 moondream3.1-9B-A2B 發布,而本文將該檢查點視為「Moondream 3」。Molmo2-4B 則是另一方:由 Allen Institute for AI 於 2025 年 12 月 11 日宣布,權重於 12 月 14 日上線,權重採 Apache 2.0,並明確警告訓練資料僅限學術與非商業研究使用。Ai2 從未提供其託管 API,而這一點事實證明很重要。

Molmo 這邊真正算得上近期的消息並不是一次發布。2026 年 10 月 9 日,Molmo2 架構被合併進上游 Transformers,並於 10 月 15 日在 v5.20.0 中推出,因此該模型不再需要 trust_remote_code=True。11 月 5 日,Ai2 發布了 Molmo2-4B-tb,這是此檢查點針對堆疊積木機器人所做的微調版本。這兩件事都沒有讓 Molmo2-4B 變成新模型,也都沒有改變它的資源佔用。

什麼會留存下來,什麼不會

權重不會消失。Moondream 以 Moondream Model License 1.0 發布 moondream3.1-9B-A2B,並推出自家推論引擎 Photon,供在 Ampere 或更新架構的 NVIDIA GPU 與 Apple Silicon 上進行本地部署。該授權允許商業使用、微調、量化、再散布、邊緣部署,以及由客戶掌控的 VPC。它禁止的只有一件具體的事:在沒有另行取得商業授權的情況下,向第三方提供通用型的託管 Moondream 服務。

那個條款正是這次關閉比乍看之下更重要的原因。一個原本呼叫 Moondream Cloud API 的團隊,無法直接為自己的客戶架設相同的端點。他們可以在自家產品中運行 Moondream,也可以在他們控制的基礎設施上運行,但「Moondream as a service」正是授權條款所保留的項目。如果端點本身就是產品,那麼 11 月 13 日就是一項授權事件,而不只是遷移。

Molmo2-4B 沒有對應的陷阱,因為從來就沒有託管版本可以失去。權重授權是 Apache 2.0,限制反而存在於資料聲明中:Ai2 的模型卡指出,該模型「是以僅限學術與非商業研究使用的第三方資料集訓練而成」,並引導你檢視這些來源。這兩個模型都不是乾淨的「直接出貨就好」——一個限制你能提供什麼,另一個限制訓練血統能支持什麼。

兩者骨子裡是截然不同的機器

• 參數 — Molmo2-4B 為 4,850,869,200 稠密參數;Moondream 3.1 總計 9.0B,每個 token 啟用 2.0B,是八個專家的混合模型,採用 top-2 路由加上一個共享專家。

• 權重大小 — Molmo2-4B 的 float32 safetensors 為 19.42 GB,共四個分片;Moondream 3.1 針對 Photon 發佈,並可透過 Hugging Face 取得,廠商強調的是執行時佔用空間小,而非下載檔案龐大。

• 上下文 — Molmo2-4B 為 36,864 個位置;Moondream 3.1 為 32,768 個 token。

• 輸入介面 — Molmo2-4B 接受圖像、多圖像與影片;Moondream 3.1 每次呼叫接受一張圖像,且沒有原生影片路徑。

• 輸出契約 — Molmo2-4B 傳回依影像尺寸縮放至 0–1000 的座標點,影片模式下附有時間戳,並提供用於解析的已記載正規表達式;Moondream 3.1 提供四項具名技能 — query、detect、point、caption — 各自傳回結構化 JSON。

• 授權 — Molmo2-4B 的權重採用 Apache 2.0,但附帶第三方資料的注意事項;Moondream 3.1 則採用 Moondream Model License 1.0。

輸出列是最有意思、也最少被討論的差異。Molmo2-4B 的點是一串原始座標流,由你解析並後處理。Moondream 3.1 的技能則是一份 API 契約:detect 回傳物件、point 回傳點、caption 回傳說明文字,而且形狀不隨提示詞改變。一個是你據以建構的模型;另一個是你呼叫的服務。比起任何一列基準測試數據,這項設計差異更能預測哪一個適合你的程式碼庫。

A two-column comparison scoreboard titled 'Molmo2-4B vs Moondream 3 - the scoreboard'. The Molmo2-4B column reads Parameters 4.85B dense, Weights 19.42 GB float32, Context 36,864 positions, Video yes 384 frames, Output points with regex, Licence Apache 2.0 plus data caveat. The Moondream 3.1 column reads Parameters 9.0B total 2.0B active, Weights 9B mixture of experts, Context 32,768 tokens, Video no one image per call, Output JSON query detect point caption, Licence Moondream Model License 1.0. The footer reads 'Vendor-reported figures. Moondream Cloud closes 13 November 2026.' The OrcaRouter logo sits in a white strip below the artwork.

不共用測試框架的分數

Moondream 為 3.1 發布了一份內容詳盡的表格,值得精確引用,因為大多數摘要都會對其進行四捨五入。這些數據由廠商報告,全部基於 Moondream 自家的評估:COCO 偵測 [email protected] 為 81.46,ODinW-13 為 93.94,LVIS 為 67.4,Dense200 為 74.61,SKU-110K 為 52.77,CrowdHuman 為 74.5,RefCOCO-M 為 87.1,HumanRef 為 70.39,DOTA-v2 為 59.63,CountBench 為 90.35,TallyQA 為 74.86,PixMo-Count 為 88.68,ChartQA 為 86.01,DocVQA 為 88.6,所稱平均值為 77.9。同一篇文章還報告了在 Cloudflare Workers AI 上每秒 34.2 次請求,以及約 20–30 毫秒的首字延遲,單次點呼叫端到端約 145 毫秒。

Molmo2-4B 回報了一項彙總數據:在 15 項學術基準測試中平均為 62.8;在同一張表格中,它的排名落後於同系列的 8B 模型(63.1),並與 Qwen3-VL-4B(58.1)、InternVL3.5-4B(53.4)及 Eagle2.5-8B(60.7)並列;而同一張表格中的閉源模型則分別為 Gemini 3 Pro 的 70.0 與 GPT-5 的 70.6。

這兩個平均值無法相比。它們涵蓋不同的任務,Moondream 的平均值大幅偏向它最擅長的偵測與計數,而且兩家廠商都沒有在對方的測試套件上跑過自己的模型。任何人把 77.9 對 62.8 說成六個百分點的勝利,都是在拿兩份不同的考卷相比,還把它稱為分數。

A screenshot of the Hugging Face model card for allenai/Molmo2-4B, showing 54 likes, an Apache-2.0 badge, a Safetensors panel reading 5B params with tensor type F32, 23,136 downloads last month, the Qwen/Qwen3-4B-Instruct-2507 base model in the model tree, and card text listing the Molmo2 video and multi-image training datasets.

兩家廠商都在意的計數

計數是這兩個模型的主張真正重疊的唯一領域,而誠實的解讀對雙方都不太舒服。Moondream 回報 CountBench 90.35 與 PixMo-Count 88.68。Ai2 的公告稱 Molmo 2 系列在影片計數上領先開放權重模型,隨即又承認在其評估中沒有任何模型達到 40% 準確率。這些說法並不衝突——一個是在精選圖像上進行密集物件計數,另一個是跨影片計數——但它們意味著「擅長計數」並非可移植的主張。在你信任那個數字之前,先明確界定測試。

A screenshot of the Hugging Face model card for moondream/moondream3.1-9B-A2B, showing 97 likes and a moondream-model-license-1.0 badge, 9,206 downloads last month, a Safetensors panel reading 9B params with tensor types F32, BF16 and F8_E4M3, card text stating a mixture-of-experts architecture with 9B total parameters and 2B active, and a 'Run locally with Photon' section with a pip install moondream snippet.

如果您這週正在做決定

從請求將要執行的地方開始。如果你原本是呼叫 Moondream Cloud API,這次遷移現在是一個自架專案,而授權條款決定你是否可以重新對外提供它。在本機執行 Photon,將 Moondream 保留在你的產品內部,且未取得商業授權前,不要為第三方重建該端點。

如果影片在範圍內,Moondream 3.1 已經推出。它每次呼叫只接受一張影像,再怎麼設計技巧結構也無法繞過這一點。Molmo2-4B 預設以 2 fps 處理 384 個影格,這正是值得接受其 19.42 GB float32 下載,並在提供服務前先降轉的原因。

如果你的流程要的是座標而不是一段文字,兩者都能做到,這時選擇就變成封裝形式的問題:Molmo2-4B 帶標記的點串流,搭配你自己維護的正規表達式;或是 Moondream 3.1 的 point 技能回傳 JSON。後者今天比較省事,但明天會背上授權義務。

對於把 Moondream 當作眾多託管視覺模型之一、而非產品本身的團隊來說,這次遷移沒有聽起來那麼戲劇化:OrcaRouter 會以供應商自身的牌價、不加任何加價提供超過 200 個模型 ID,並自動容錯移轉,當上游端點效能下降時,因此用一個託管視覺呼叫替換另一個,並不代表要簽第二份合約或重寫用戶端。Moondream 3.1 和 Molmo2-4B 都不在該目錄中——兩者都是自託管權重——但堆疊的其餘部分通常都在。

關於這組配對,最清楚的說法是:這從來不是一場公平的較量,而現在規模更小了。Moondream 3.1 是一個快速、包裝完善的視覺 API,其授權條款將服務業務保留給其所有者。Molmo2-4B 則是一個研究用途的發布版本,具備影片原生的點輸出,而且完全沒有包裝。這次關閉並不會讓其中一個變得比另一個更好。它只是移除了「不選擇」的選項。