Muse Glimmer 標題卡片:Meta 的 30B 開放權重代理模型,專為本地 GPU 設計,帶有顯示 Apache 2.0 的標籤、適用於 24-32 GB GPU,以及從 Muse Spark 1.2 蒸餾而來。
Guides & Insights

Muse Glimmer:Meta 的技術報告究竟對 30B 本地代理給出了什麼定論

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

Meta 於 2026 年 10 月 19 日發布 Muse Glimmer 的技術報告,距離該模型本身於 8 月 10 日推出已過了七十天。這個時間差正是這篇論文比一般制式文章更重要的原因:它是 Meta 迄今關於該模型最詳細的文件——它展示了消費級硬體宣傳背後的算術,並說明哪些基準測試列是 Meta 自己跑的、哪些是借用他人的。Muse Glimmer 是一個 300 億參數的稠密模型,採用 Apache 2.0 授權,輸入支援文字與圖像,是從 Meta 的前沿 Muse Spark 教師模型蒸餾而來,且報告全篇都以 Gemma4-31B 和 Qwen3.6-27B 作為基準比較對象。該報告也首次為這種蒸餾正確估算成本:將 55.7GB 的 BF16 權重壓縮到 19.65GB,讓語言模型能放進 32GB 的顯示卡,並實際測量品質代價,而非僅憑宣稱。 像這類發布背後有紀錄的 AI 失敗與代理事件,都收集在 OrcaRouter AI Incident Archive其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。

論文披露的兩件事,比發布部落格所呈現的沒那麼體面。第一,基準測試表是拼湊而成,並非 Meta 獨家的全面評測:其中四行來自 Artificial Analysis,兩個競爭對手的數字是這些對手自己的自報數據,其餘則是 Meta 的內部執行結果,而 Meta 仍承認這些結果所對應的設定並未針對競爭對手調校。第二,本文原先說要花數週的驗證,已經完成了。Artificial Analysis 已對 Muse Glimmer 評分,在它目前的指數上,該模型排在 17 名——落後於排 21 的 Qwen3.6-27B,領先於排 15 的 Gemma4-31B。同時,Meta 在發布時一併作出的承諾——為規模大得多的 Muse Spark 開放權重——已於 10 月 15 日以 Muse Spark Open 兌現:總參數 816B、活躍參數 42B,採用非 Apache 2.0 的授權條款。

報告所說該模型實際上是什麼

架構如今已公開到張量形狀的層級,也解釋了人們一直爭論的大部分行為。Muse Glimmer 總計約 29.6B 個參數:約 25.16B 位於 52 個 Transformer 區塊中,1.34B 為未綁定的詞元嵌入,1.34B 為未綁定的輸出投影,另外還有一個獨立的 1.8B 感知編碼器——這是一個 ViT-G/14,具有 50 層、寬度 1536,以 14 像素為 patch 大小,對應 448 像素的參考網格。隱藏維度為 6,656。注意力採用分組查詢注意力,32 個查詢頭對 2 個鍵值頭,比例為 16:1,並在重複的「三個局部、再一個全域」模式中使用 2,048 個詞元的滑動視窗,且 RoPE 僅套用於局部層。詞彙表為 202,048 個詞元,使用 Llama 4 BPE 分詞器,上下文為 128K 以上。知識截止日期為 2026 年 1 月 4 日。

論文裡有兩個數字,比起發表當天所獲得的關注,值得更多的注意。第一個是語言數量:摘要說「超過一百種語言」,正文說大約 140 種,附錄則報告 Omnilingual-GAIA2 分數為 60.4,對比 Gemma4-31B 的 37.5 與 Qwen3.6-27B 的 45.0。這是相當大的差距,而且就像表裡其他每一項一樣,這是 Meta 自家跑的結果。第二個是訓練配方。預訓練是從 Muse Spark 進行 logit 蒸餾,使用教師模型的前 256 個 logit,在訓練的前 95% 使用 KL 散度,最後 5% 則改為對真實目標計算交叉熵,以修正 top-k 蒸餾所引入的截斷偏差。中期訓練將上下文從 32K 擴展到 128K,並注入代理式軌跡資料;後訓練則是監督式微調、接著同策略蒸餾,然後是多目標強化學習。Meta 明言,在這個規模下,同策略蒸餾擊敗了純強化學習的配方——對任何要自行訓練小型代理模型的人來說,這是有用的資料點。

產品簡報沒有改變。Meta 打造 Glimmer 是為了「常駐本地的代理工作流程」——這種代理會呼叫工具、遵循多步驟計畫、在呼叫失敗時復原而不是停下來,並且能調高或調低推理投入程度。它鎖定的工作都是些不光鮮的任務:本地程式開發、函式呼叫、排程管理、檔案整理、以 LLM 作為評審的評估。它可在 OpenClaw 等協同編排框架下運行;論文明確點名 OpenClaw,正是 compact、可靠工具呼叫器之所以存在需求的原因。

「能塞進你的 GPU」這個說法的數字從哪裡來

這正是技術報告所要定案的部分,而它比行銷說法更站得住腳。在 BF16 下,權重佔用 55.7GB。Meta 的目標是部署於具備 24GB 或 32GB 記憶體的環境,並保留空間給未量化的 KV 快取、感知編碼器與 DFlash drafter,因此以語言模型權重低於 20GB 為目標。它評估了七種訓練後量化方案——GPTQ、AWQ、均勻 NVFP4、均勻 MXFP8、llama.cpp 的 Q4_K_M、名為 Greedy-KL 的校準變體,以及經調適的 EvoPress——先對照留出的負對數似然,再對照 15 項下游基準測試。

結果是兩個具名的部署設定檔,而不是一個含糊的「4-bit」說法。32GB 設定檔是 EvoPress,權重佔 19.65GB,在 15 項基準測試中平均 75.6%,對比 BF16 的 75.7%——只差 0.1 個百分點。24GB 設定檔是 Q4_K_M,佔用空間更小,平均 74.8%,低 0.9 個百分點。平均回覆長度從 BF16 的 11,070 tokens 變成 EvoPress 的 11,417 與 Q4_K_M 的 10,774,所以一般人擔心激進量化會膨脹思維鏈長度,這在這裡並未出現。這些是 Meta 在其評測組合上的測量結果;它們是任何人針對此模型所公布過最具體的品質與記憶體權衡數字,但仍然只是廠商數字。

速度是這篇論文比部落格文章更薄弱的地方。報告指出,4 位元權重加上推測解碼可在「單張 RTX 5090 上達到實用速度」,並詳細描述草稿模型——五層、區塊大小 16、32 個查詢頭與 8 個鍵值頭,以 D-PACE 目標在 on-policy rollouts 上離線訓練——但沒有公布吞吐量表格。流傳中的數字——在 RTX 5090 上解碼速度約提升 3.1 倍(llama.cpp 中從 74.9 到 233 tokens/sec)、在 M5 Max 上 1.8 倍、在 M4 Max 上 1.5 倍——來自 Meta 的發布資料與模型卡,而非該報告。在有人在自己的機器上重現之前,應將這些數字視為廠商說法;而對本地模型而言,這其實是個很容易執行的實驗。

為什麼這個版本的意義超越了規格表

自 2025 年春季的 Llama 4 以來,Meta 在開放權重方面便沉寂下來,退守到 Meta Superintelligence Labs 旗下的專有前沿路線。Muse Glimmer 是對該策略的公開回歸,並伴隨一篇 14 頁的 Zuckerberg 文章《The Future is for Everyone》問世,文中主張集中控制才是真正的 AI 風險,另外還有一個同名、規模 10 億美元的基金。該論文沒有重複政治論調;它做了更有用的事,即表明開放權重的回歸並非一次性姿態。

10月15日,Meta 發布了 Muse Spark Open 的權重——總參數 816B、活躍參數 42B、上下文長度 100 萬個 token,且據 Meta 稱,能在兩台搭載 MLX 的 Apple M5 Ultra Mac Studio 上運行。這是教師模型的開放權重姊妹作,也回答了本文最初懸而未決的問題。答案附帶一個星號:Muse Spark Open 是依 Muse 模型授權條款發布,附帶有限的商業條款,而非 Apache 2.0。Glimmer 仍是兩者中較寬鬆的一個,且在 30B 的規模下,是這對模型中唯一能放進單一消費級 GPU 記憶體裡的。Meta 自己的定位是:Spark Open 是為擁有 Mac Studio 堆疊的人準備的桌上型等級模型;Glimmer 則適合 24GB 顯示卡。

上述所有 Spark Open 的數字都來自 Meta,尤其是「可在兩台 Mac Studio 上執行」這個說法,尚未被獨立重現。沒有爭議的是這個產品陣容的輪廓:一個採寬鬆授權的 30B 代理模型、一個受限的 816B 旗艦模型,以及位於兩者之上的前沿 API 層級。這是一套連貫的開放權重策略,而非單一發布;在決定是否要以 Meta 較小的模型為基礎來建構時,這正是應該納入考量的因素。

Three-way scoreboard comparing Muse Glimmer, Gemma4-31B and Qwen3.6-27B: MCP-Atlas 75.5/54.2/62.5, DeepSearch QA 74.6/61.7/71.1, GAIA2 43.3/36.4/40.0, SWE-Bench Pro 51.2/36.9/50.2, TerminalBench 2.1 51.7/--/60.7, and AA Intelligence Index --/39/46. Footer: rows 1-5 vendor-reported by Meta; AA Index per Artificial Analysis (no Muse Glimmer entry yet).

「煙燻」標示,逐列檢視

上方的計分板是在發布當天產生的,而其中有一行後來已被超越:它的 Artificial Analysis 欄位對 Muse Glimmer 仍顯示「尚無紀錄」。Meta 的評分表本身則在三十六列資料中,將高推理強度的 Muse Glimmer 與 Gemma4-31B 及 Qwen3.6-27B 進行比較。發布日的模式依然成立:最大的勝利來自通用代理推理、搜尋與多語言工作。

• MCP-Atlas(代理式工具使用)—— Muse Glimmer 75.5、Gemma4-31B 54.2、Qwen3.6-27B 62.5。這仍是整組中最受矚目的一列,也是差距最大的一項。

• DeepSearch QA — 74.6,相較於 61.7 與 71.1;GAIA2 — 43.3,相較於 36.4 與 40.0;WildClawBench — 47.6,相較於 37.6 與 43.2。

• GDPval-AA v2 — 在 G​emma 的 811 分與 Q​wen 的 1,141 分之間,拿下 953 Elo。這一點值得停下來深思:在具經濟價值的知識型工作上,Q​wen 以大幅差距勝出。

• SWE-Bench Pro — 51.2,對比 36.9 與 50.2;ARC-AGI — 高推理模式下 66.9,報告新增的 xhigh 等級下 67.9;LiveCodeBench Pro(2025 Q2)— 高推理模式下 64.1,xhigh 下 66.8。

• τ³-Banking — 23.5,相較於 15.1 與 16.7;PinchBench(工具使用)— 90.5。

它失分的那些列同樣很能說明問題。{{1}}Qwen3.6-27B{{/1}} 在實際動手操作電腦與終端機工作上佔優:OSWorld-Verified 75.6,對比 Glimmer 的 65.9;TerminalBench 2.1 60.7,對比 51.7;SWE-Bench Verified 77.2,對比 76.0;並在 SkillsBench 以 46.6 對 44.3 略勝一籌。{{2}}Gemma4-31B{{/2}} 則交出更佳的隱私與安全紀錄——CIMemories 違規率為 12.1%,低於 Glimmer 的 26.4% 與 Qwen 的 53.4%;在 Siren AgentDojo 上的攻擊成功率最低,為 25.6%,低於 Glimmer 的 28.4% 與 Qwen 的 40.3%。Gemma 也在窄域推理測試中略勝一籌:GPQA Diamond 為 85.7,對比 83.5;Humanity's Last Exam 為 23.6,對比 22.0。

方法論附錄是改變你應該如何解讀上述所有內容的部分,它也修正了本文在發布時的說法。並非每一列都是 Meta 自家的數據。對於對手模型,Meta 會回報「自我報告分數或我們內部重現結果之間最有利的結果」,而四項基準測試——τ³-Banking、GDPval-AA v2、Terminal-Bench 2.1 和 SciCode——的數據來源是 Artificial Analysis,而非由 Meta 內部執行。Qwen3.6-27B 的 SWE-Bench Verified 數據是 Qwen 自己的自我報告。Qwen 的 SWE-Bench Pro 數據則是 Meta 的內部執行結果,因為 Qwen 公布的數字來自該基準測試的改良版本,而 Meta 評估的是原始任務集。至於其餘部分,Meta 自行重現對手的結果,並表示其代理工具與系統提示「可能未針對專有的第三方模型進行特別調校」。

這比發布部落格所提供的揭露更審慎,而且有利有弊。這不是一次乾淨的廠商全勝,反而強化了表格的可信度。但「在自我報告與我們的復現之間取最有利者」這條規則,只會在對手自家數字較高的那些列上幫到對手,而 Meta 的未調校設定告誡仍適用於它自行產生的每一列。列級細節現在可稽核,這正是你要的;不過偏差的方向無法完全從論文中得知。

獨立計分板顯示的內容

Artificial Analysis 現已為該模型評分,這讓本文直到八月都還帶有的「尚無獨立結果」但書得以退場。在 AA 目前的指數中,Muse Glimmer 於高推理強度下的 Intelligence Index 為 17,在其比較組的 141 個模型中排名第 14。Qwen3.6-27B 為 21,Gemma4-31B 為 15。AA 也測得每秒 137 個輸出 token、首 token 時間 0.91 秒——在同級中算快,於 64 個中排名第 16——以及每項 Intelligence Index 任務約 0.06 美元的成本。

分數水準需要一項附加說明,排名則不需要。AA 在發布當週的評述中,把同樣這三個模型在其指數上列為 35、38 和 30;目前的模型頁面則把它們列為 17、21 和 15。絕對數值變了,順序沒變。無論重新縮放的原因是什麼,兩次讀數之間穩定不變的事實都是排名:Q​wen 在總合指標上領先 Glimmer,Glimmer 領先 G​emma,而且 Glimmer 在代理能力專屬列上領先。這支持的是比「領先規模相當的開放模型」更狹窄的主張——在通用智慧指數上,一個 4 月的 27B 模型仍然勝出——而較狹窄的主張才是準確的。

AA 在發布當週的評估中新增了一項值得延續的發現:Muse Glimmer 的幻覺率為 82%,相較之下 Qwen3.6-27B 為 49%,且 AA-Omniscience 指數為 −33。對於一個在你機器上無人值守執行並會呼叫工具的代理而言,這個數字更應該決定你賦予它多少自主性,其影響勝過 MCP-Atlas。AA 現在也將 Qwen3.6-27B 標記為已棄用,改用 Qwen3.8-27B,因此在這張表的大部分內容中,Glimmer 這個競爭對手所拿來比較的對象,已不再是其廠商目前的模型——這是 Meta 的比較在八月時無法預見、而這份十月發布的報告也未處理的細節。

下方的截圖是 Glimmer 被評分之前的比較頁面,因此顯示的是 Glimmer 即將加入的參賽陣容,而不是 Glimmer 已在其中的版本。請將它視為驗證前的基準,而非目前的排名。

Screenshot of Artificial Analysis' Small Open Source Models comparison page, showing the 4B-40B open-weight class with Openness and Intelligence index columns and the header noting that Qwen3.6-27B and Qwen3.5-27B are the highest-intelligence small open-source models.

實際營運要花多少錢

Muse Glimmer 本身是免費的 —— Apache 2.0,沒有按 token 計費,也不用付錢給 Meta,而報告確認該發行版包含全精度權重、4 位元變體以及 DFlash 推測頭。成本在於它底下的硬體。BF16 需要 55.7GB,那是兩張卡,消費級顯卡一張都辦不到。如果你要買,32GB 的 EvoPress 設定檔才是首選:相較於 BF16,它平均準確度只犧牲十分之一個百分點,而且能塞進單張 32GB 顯卡,或搭載統一記憶體的高階 Mac。24GB 的 Q4_K_M 設定檔則要付出十分之九個百分點的代價,能放進 RTX 5090 等級的顯卡,對於持續運行的代理程式來說是合理的取捨。

若你寧願租用而非購買,目前追蹤的託管費率已低於本頁八月所引用的價格。Artificial Analysis 記錄到 Muse Glimmer 每百萬輸入 token 為 $0.30、每百萬輸出 token 為 $1.20,對比發佈時首批上架所列的 $0.35 與 $1.50,並有 87% 快取折扣,混合費率接近 $0.21。這些是供應商在市場上列出的費率,而非 Meta 的價格——Meta 沒有自行發布託管的 Glimmer 端點,其開發者文件是圍繞著將你的工具指向本地的 Muse Glimmer 伺服器來撰寫。這次變動是同一家供應商降價,還是有更便宜的供應商加入追蹤集合,指數並未顯示;但不論如何,對開放權重發布而言,方向是可預測的。

值得仔細做的比較,仍然是本地與託管之爭,而兩者的差距並不像行銷話術所暗示的那麼接近。一張 32GB 的顯示卡是固定成本,會攤銷到你日後生成的每一個 token 上;託管費率則是邊際成本,隨用量規模而增減,而且一旦供應商消失,這筆成本也跟著消失。在每百萬 token 0.30 美元與 1.20 美元的價位上,託管路線已經便宜到大多數團隊都該先從那裡起步,再考慮採購硬體;本地路線唯有在 token 不能離開機器,或用量高到 GPU 比帳單更划算時,才會勝出。

有一點關於我們需要說明,因為這會影響你如何為這一切定價。Muse Glimmer 不在 OrcaRouter 的目錄中——我們路由的是託管 API,而該模型尚未以託管路由的形式上線,所以 0% 加價與一鍵包辦所有事情的安排目前並不適用於它。真正適用的是這套原則:對於我們確實有路由的 200 多個模型,顯示的價格是供應商定價以 0% 加價原樣轉嫁,因此供應商一旦降價,這裡當天就會生效,而不是等到重新計算利潤率後才反映。無論你以哪種方式運行 Glimmer,這都應該是這項比較所應遵循的標準。

你本週實際上會如何使用它

由於它以開放權重形式發布,取得方式就是下載。基礎儲存庫是 Hugging Face 上的 meta-models/Muse-Glimmer-30B,4 位元變體與 GGUF 版本也一併發布。首日支援的執行環境為 llama.cpp、MLX 與 ExecuTorch;Ollama、LM Studio、vLLM 與 SGLang 在幾天內跟進,並列出針對 AMD、Arm、Dell、Intel 與 Nvidia 的硬體最佳化工作。對大多數人來說,實用路徑不變:下載 GGUF、在 llama.cpp 或本機執行器中載入、讓代理框架指向它,並先從 24GB 的 Q4_K_M 設定檔著手,除非你有 32GB 可以留給 EvoPress 版本。

如果你正在決定是否要基於它來開發,誠實的說法是:Glimmer 是一個不錯的本地代理,有明確記載的品質下限、經實測的幻覺問題,以及一份如今已部分可稽核的廠商基準測試表。教師模型則是另一回事:Muse Spark 1.2 可透過 OrcaRouter 路由,每百萬輸入 token 收費 1.25 美元、每百萬輸出 token 收費 4.25 美元,因此團隊可以在裝置上執行小模型,處理便宜、私密、常時運作的工作,並透過同一把金鑰將困難案例路由給大模型。這種拆分——例行迴圈用本地學生模型,升級處理用託管教師模型——正是這兩個版本實際支援的架構,而且本週就能以你可能已擁有的 GPU 加上一筆 token 預算來測試。自動容錯移轉讓託管的那一半在模型仍在建立獨立實績紀錄時,也能安全地納入正式環境路徑,而這正是 Glimmer 目前的狀態。

下方的截圖是發布當天所呈現的模型卡。其中「未由任何推論供應商部署」這一行,指的是 Hugging Face 自家的第一方推論服務,這與 8 月 9 日開始的第三方代管是兩回事;而它也著實提醒了我們,那行文字過時得有多快。

Screenshot of the Hugging Face model card for meta-models/Muse-Glimmer-30B, showing the Apache 2.0 license, 30B parameter size, Meta Superintelligence Lab authorship, and the line that the model is not deployed by any inference provider.

有什麼好看

原本將為這則報導定案的三件事,大多已經明朗。Spark 的開放權重版本已於 10 月 15 日發布。獨立評測也已完成,結果顯示 Qwen 在整體表現上領先,Glimmer 在代理式任務上領先,Gemma 則在兩者之後。託管服務逐漸普及,追蹤價格現在是 $0.30 與 $1.20,而非 $0.35 與 $1.50。

剩下的問題更為狹窄,也更有意思。第一,Meta 之外是否有人能複現這項量化取捨——0.1 點與 0.9 點的差距是整份報告最有力的部分,也是在 24GB 顯示卡上最容易驗證的部分。第二,其代理式(agentic)領先優勢能否在並非圍繞該模型打造的測試框架中維持;MCP-Atlas 的 75.5 是必須超越的數字,也是最容易受腳手架(scaffold)差異影響的數字。第三,Meta 下一款小型發布會沿用 Apache 2.0 授權,還是 Spark Open 發布時所採用的限制性 Muse Model License——這單一選擇,決定了 Glimmer 系列能否繼續作為他人產品的基礎。

發布推文對這則消息的判斷是正確的,對結論也相當寬厚。技術報告補上的是八月時缺失的那部分:你現在可以看到量測了什麼、在什麼硬體上、由誰量測,以及付出了多少品質代價。這比基準測試表或推文都更適合作為決策依據,也正是這個模型仍值得納入規劃、而不只是值得閱讀的原因。

真正值得回答的問題

Muse Glimmer 真的是開放原始碼的嗎?

它以 Apache 2.0 授權開放權重——任何人都能下載、修改、微調並商業部署,無須付費給 Meta。報告也確認授權實際涵蓋的範圍:全精度權重、兩個 4-bit 變體與 DFlash drafter head 均已釋出。未釋出的是訓練資料與 Muse Spark 教師模型的權重,因此「開放權重」是謹慎的說法,而不是 OSI 意義上的完全開源。就實務而言,這項安排與當年讓 Llama 成為 AI 領域部署最廣的開放模型家族相同。

Muse Glimmer 真的能擊敗 Gemma4-31B 和 Qwen3.6-27B 嗎?

在 Meta 自己的表格上,它在大多數代理式與搜尋相關列中勝出,而方法論附錄現在顯示那些列中哪些是 Meta 自己跑的,哪些來自 Artificial Analysis 或競爭對手自己的報告。獨立解讀則較為狹窄:在 AA 的 Intelligence Index 上,Qwen3.6-27B 得分 21,Muse Glimmer 17,Gemma4-31B 則為 15。因此準確的說法是,Glimmer 在其尺寸級別中於工具使用、多步規劃與多語言代理式工作方面領先,但在整體通用智慧或電腦操作任務上並未領先。

我可以在筆記型電腦上執行它嗎?

唯有在「laptop」指的是配備 24GB 或 32GB 獨立 GPU 的筆電,或統一記憶體有同樣容量的高階 Mac 時,才成立。報告指出 BF16 權重為 55.7GB,並以兩種壓縮配置為目標:32GB 機器用 19.65GB 權重,24GB 機器則用較小的 Q4_K_M 版本;兩者都為 KV 快取、感知編碼器與草擬模型預留空間。在整合式顯示晶片或 16GB 機器上,你面對的會是更重的量化與緩慢輸出,而不是此版本所設計的常駐代理。

我在哪裡可以取得它,而且它有提供 API 嗎?

權重放在 Hugging Face 的 meta-models/Muse-Glimmer-30B,你可以透過 llama.cpp、MLX、ExecuTorch、Ollama 或 LM Studio 在本機執行。託管存取則可透過第三方平台取得,根據 Artificial Analysis 追蹤的供應商定價,大約是每百萬輸入 token 0.30 美元、每百萬輸出 token 1.20 美元。Meta 本身並未發布自家的託管 Glimmer 端點,而且該模型不在 OrcaRouter 上——如果它日後成為託管路徑,那麼能連上我們目前路由的 200 多個模型的那把金鑰也能連上它,但今天並非如此。

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新