標題卡上寫著 Moondream 3 Preview 的託管端點將於 11 月 13 日關閉,並帶有「2025 年 9 月 18 日發布」、「由 Prime Intellect 收購」和「權重維持開放」的標籤,角落還有 OrcaRouter 標誌。
Guides & Insights

Moondream 3 Preview 的託管端點將於 11 月 13 日關閉

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

M​oondream 3 Preview 於 2025 年 9 月 18 日發布,而為其提供服務的端點將於 2026 年 11 月 13 日停止回應。這是這個故事中真正重要的兩個日期,而只有第二個日期迫在眉睫。模型本身並未被撤下——權重仍留在 Hugging Face 上,授權條款也沒有改變——但大多數團隊實際上呼叫的託管路徑,由 M​oondream 3 Preview 及其後繼者 M​oondream 3.1 共用,即將被關閉,而公告只用一行說明:2026 年 11 月 13 日,也就是從今天起 30 天後,M​oondream Cloud 將關閉,未使用的已購買點數將予以退還。

那則公告是連同背後的原因一起發布的。Moondream 3 Preview及其後繼版本Moondream 3.1現已納入 Prime Intellect 旗下;Prime Intellect 於 2026 年 10 月 13 日宣布收購 Moondream,創辦人 Vik Korrapati 與 Jay Allen 加入,負責領導並擴展推論業務。Moondream 自家的貼文則是 10 月 14 日發布。這不是產品發布,也不該被當成發布來報導。這是一次所有權變更,而且附帶一個硬性的移轉截止期限;如果你的技術堆疊中任何地方有對 api.moondream.ai 的正式環境呼叫,從那則貼文發布日起,你大約有四週的時間來決定要用什麼取代它。

Prime Intellect 實際上買了什麼

這份公告對於易手的兩樣東西異常明確,而這兩者都不是模型檢查點。第一是團隊:Korrapati 和 Allen 加入,負責執行推論,並加速多模態相關工作,包括視覺與電腦操作(computer use)。第二是 Photon,M​oondream 的推論引擎,它運用自訂核心,並以背後的 megakernel 編譯器,將每個模型編譯成單一的 GPU 程式。

讀一下這個框架,你就能明白為什麼。Prime 的貼文先談服務,而非架構——它為這筆交易提出的理由是「服務才是決定模型有沒有用的地方」。它引用的數字是吞吐量數字:Moondream 3.1 每秒 34 次請求,號稱比準確度次高的開放模型快約 24 倍;在單張 H100 上每秒超過 60 次 Moondream 推論;數十毫秒內就能給出答案。那些是 Prime 的數字,而 Prime 現在是販賣推論的一方,所以應把它們視為廠商自報的數字。不是廠商宣稱的是這筆交易的方向:一家產品原本是視覺模型的公司,買下了一個推論引擎,並讓該引擎的作者負責推論。

對於任何採用 Moondream 整合的人來說,實際影響是開放權重仍會保持開放,而且用 Moondream 的話來說,「會持續改進,而且現在速度會快得多。」即將退場的是便利層——代管 API 與 Lens、微調產品——而這正是許多小型團隊當初所倚賴的一層,因為他們不想自行運行 GPU。

Moondream 3 Preview 究竟是什麼

值得重申的是,因為一個在 2025 年 9 月發布、如今正於一樁收購案中被取代的模型,是許多團隊只透過關閉通知才接觸到的模型。它是一個細粒度的稀疏專家混合模型,總參數 9B、每個 token 啟用 2B,並透過 drop upcycling 從較舊的 2B 稠密 M​oondream 2 初始化而來。

• 架構 — 24 層,前四層為稠密層,其餘為 MoE 前饋區塊,具備 64 個專家且每個符元啟用 8 個,GeGLU,隱藏維度 2048。

• 視覺編碼器 — 基於 SigLIP,搭配多裁切通道串接,以實現具 token 效率的高解析度輸入。那個切割細節之後很重要。

• 上下文 — 32K 可用 token,相較於前一代的約 2K 有所提升,並採用自訂的 SuperBPE 分詞器。預覽貼文坦承,後訓練尚未充分利用這個長上下文視窗,完整的 32K 主要是供進行微調的人使用。

• 技能 — 查詢、描述、指向與偵測,全是原生功能,且全都回傳結構化輸出。偵測與指向是這次發布最倚重的兩項。

• 推理 —— 混合式。query 預設以推理模式執行,也可在關閉推理的情況下呼叫,以應付便宜、簡單的問題。Moondream 的定位是,這是視覺推理並具備接地:推理軌跡會參照影像中的特定區域。

• 授權 — Business Source License 1.1 附帶一項附加使用授權,允許商業與生產環境使用、微調、量化及再散布,並禁止販售會提供 Moondream 通用能力的託管服務。

最後這一行,才是默默形塑了整個生態系的那一行,而它值得被精確對待,因為Moondream 3.1已徹底轉向另一份不同的文件——Moondream Model License 1.0,自 2026 年 7 月 7 日起生效。規則的實質內容相同,只是表述得更為簡潔清楚:若 Moondream 是你產品中的一項元件,你便獲准使用;若取用 Moondream 本身即是你的產品,則需要另行取得授權。自行託管、邊緣部署、由客戶掌控的 VPC、在租用的雲端 GPU 上執行、將其微調作為專業服務的一環,以及不暴露通用功能的特定領域 API,全都明確獲得許可。由服務供應商營運的通用推論、代管的通用微調,以及會暴露微調衍生成果的共享 API,則是那三項需要另行談成協議的情況。

這就是關閉通知之所以會以這種形式存在的原因。M​oondream 無法直接把其代管的端點交給第三方——授權條款的例外條款正是針對這一點——因此端點會關閉,而遷移則交由 Prime 負責,Prime 現在擁有它。

兩個值得懷疑的數字

Moondream 自家的基準測試報告方式,值得比平常受到更嚴格的檢視,因為該公司對其方法比大多數公司更透明,而這套方法本身又發揮了很大的作用。

在預覽部分,發表圖表將 M​oondream 3 Preview 與 GPT-5、Gemini 2.5-Flash 及 C​laude 4 S​onnet 相互對比。在指涉表達偵測的欄位上,差距很大,且不太可能是假象:RefCOCO 上預覽版為 91.1,對比 Gemini 2.5-Flash 的 75.8、GPT-5 的 57.2,以及 C​laude 4 S​onnet 的 30.1。M​oondream 自身的但書才是重點——前沿模型原生不支援 grounding,因此是透過範本進行查詢,而且部分預覽版分數是在 100 題隨機樣本上計算,而非完整基準測試。對一個不具備 grounding 能力的模型進行範本化的 grounding 查詢,所測量到的提示工程成分,和測量模型本身一樣多。

對 M​oondream 3.1 而言,這個做法影響更為深遠,也值得直白說明:已公布的基準測試分數,是先用 Lens(M​oondream 的微調產品)在每個基準測試各自的訓練分割上微調模型——包含各任務專屬的 LoRA、SFT 與 RL——再把這些 LoRA 學到的東西蒸餾回基礎權重,讓可下載的檢查點在完全未經調校的情況下也能取得好成績。3.1 的發布文章直接說明了這一點,甚至指出蒸餾後的基礎模型表現僅略遜於個別 LoRA。這是個合理且有趣的工作流程,但它和冷啟動的開箱即用數字並不是同一回事,因為這些任務的訓練分割曾被餵給模型。如果你把 3.1 拿來和一個從未見過那些分割的模型相比,你比較的是調校過的產物與未調校的產物。

這些都不會讓數字變成錯的。它只是讓標示變得舉足輕重,而這正是我們對任何廠商圖表一體適用的標準。

您的三條移轉路徑

如果託管端點就在你的技術堆疊中,這項決策比表面上看起來更狹隘。

• 使用 Photon 自行託管 —— Photon 依然免費,可在 Ampere 以後的 NVIDIA GPU 以及 Apple Silicon Mac 上於本機執行,並具備與 Moondream Cloud 相同的 API 介面。pip install moondream,載入時使用 local=True,基礎模型不需要 API 金鑰。權重會在首次使用時從 Hugging Face 下載。這條路徑能讓你的程式碼幾乎原封不動地继续運作,並將成本從按 token 計費改為按 GPU 小時計費。

• 遷移至 Prime — 通知表示 M​oondream 和 Prime 將主動聯繫並提供後續步驟,並指向 Prime 以滿足推論、微調或類似需求;如有緊急問題,請聯絡 contact@moondream.ai。Prime 現在是託管路徑唯一繼續提供服務的地方,且將在 Prime 的技術堆疊上運行,而非 M​oondream 的。

• 替換模型——如果 Moondream 3 Preview 之所以存在於你的技術堆疊中,是因為它是個便宜、快速的分磚影像偵測器,而不是因為它有什麼專屬於 Moondream 的特性,那麼這次停用正是重新跑一遍自家評估集的好時機,而不是預設採行同類型的直接替換。

要避免的是第四條路徑,也就是直到 11 月 12 日什麼都不做。額度正在退還,因此沒有財務上的理由繼續呼叫一個即將停止回應的端點;而如果在硬性截止日前一週才展開遷移,這種遷移會讓你發現自己的 grounding 提示實際上依賴了什麼。

如果你最終決定標準化採用的模型,正好是 OrcaRouter 目錄中那 200 多個模型的其中一個,這件事的其中一部分就會變得比較輕鬆:一組金鑰、一種請求格式就能通用於所有模型,以供應商定價原價轉嫁、不加任何加成,而且當上游服務品質下滑時會自動容錯移轉。Moondream 3 Preview 不在那個目錄裡,Moondream 3.1 也不在——這兩者都是你自己託管、或透過 Prime 存取的權重——所以對這次特定的遷移來說,路由層能幫上忙的是你接下來要路由的任何東西,而不是 Moondream 本身。這一點值得直說,而不是含糊暗示。

未來四週該看什麼

A scoreboard titled Moondream 3 Preview — the scoreboard, with rows for total parameters at 9B MoE, active parameters at 2B, context length of 32K tokens, native skills of query caption point and detect, visual grounded reasoning mode, and the BSL 1.1 plus Use Grant licence.

有三件事會比任何新聞稿更能說明一切。第一,Prime 是在 11 月 13 日之前還是之後,為 M​oondream Cloud 發布推論替代服務;通知未給出日期,而關閉與替代服務之間的落差,是讓使用者付出最大代價的結果。第二,M​oondream 3.1 的下載授權在新所有權下是否仍照原文維持——Model License 1.0 的代管服務限制,正是舊端點必須關閉而非轉移的全部原因,因此對它的任何修訂都會改變可行的範圍。第三,M​oondream 承諾的「快得多的改進速度」是否會產出一個檢查點,而不只是一則公告;舊公司任內最後一次模型發布是 2026 年 7 月 7 日的 3.1,此後的發布都是 Photon 版本與語音模型。

已經確定的是日期。M​oondream 3 Preview 自 2025 年 10 月起已在其託管端點正式提供,且已被 M​oondream 3.1 取代已有三個月,而到了 2026 年 11 月 13 日,兩者的託管版本將停止服務。權重不會消失。便利性則會。

The Moondream blog post announcing that Moondream is joining Prime Intellect, dated October 14 2026, showing the heading, the acquisition paragraph and the section stating that on November 13 2026 the Moondream Cloud for inference and Lens will shut down with unspent purchased credits refunded.The Moondream pricing page showing Photon and the open models listed as Free, and the Cloud pay-per-token table with Moondream 3.1 9B A2B at $0.30 per million input and $1.00 per million output tokens real-time and $0.15 and $0.50 batch, and Moondream 3 Preview at $0.30 and $2.50 real-time and $0.15 and $1.25 batch.

這些都不是假設:像這次發布背後那些有紀錄的 AI 故障與代理事件,都收錄在OrcaRouter AI Incident Archive中,每一筆條目都附有各自的來源、嚴重程度、信心評級與爭議標記。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新