
Muse Glimmer:关于 30B 本地智能体,Meta 的技术报告究竟厘清了什么
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 186 tok/s
- openai新OpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 每百万 tokens · 76 tok/s
- openai新OpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 每百万 tokens · 151 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 246 tok/s
- Alibaba新Qwen: Qwen4 Max2026-11-16$1.50 / $4.50 每百万 tokens · 207 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 94 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 221 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 82 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 105 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 67 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 每百万 tokens · 36 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 39 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 222 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 104 tok/s
2026年10月19日,Meta发布了Muse Glimmer的技术报告,此时距该模型本身于8月10日交付已过去七十天。正是这段间隔,让这篇论文比一份例行说明更为重要:它是迄今为止Meta就该模型发布的最详尽文档——它展示了消费级硬件宣传背后的算术,并明确说明了哪些基准测试行由Meta自己运行、哪些借自他人。Muse Glimmer是一个300亿参数的稠密模型,采用Apache 2.0许可,支持文本与图像输入,蒸馏自Meta的前沿教师模型Muse Spark,报告通篇都以Gemma4-31B和Qwen3.6-27B作为基准进行对比。这份报告还首次为这种蒸馏给出了恰当的成本核算:55.7GB的BF16权重被压缩至19.65GB,使该语言模型能够装进一张32GB显卡,而质量代价是实测得出的,而非空口断言。此类发布背后有记录的AI故障与智能体事故,均收录于the OrcaRouter AI Incident Archive,其中每条记录都附带各自的来源、严重程度、置信度评级和争议标记。
论文中有两处披露不如发布博客那么好看。第一,基准测试表是混合来源,并非仅由 Meta 自己跑出的结果:其中四行来自 Artificial Analysis,两个竞品数字是这些竞品自己的自报数据,其余则是 Meta 内部运行的结果,而 Meta 仍承认这些运行所针对的配置并未为竞争对手调优。第二,本文最初称需要数周才能完成的验证,已经完成了。Artificial Analysis 已对 Muse Glimmer 打分,在其当前指数上,该模型位列第 17——落后于第 21 的 Qwen3.6-27B,领先于第 15 的 Gemma4-31B。与此同时,Meta 在发布时一并承诺的更大模型 Muse Spark 的开放权重,已于 10 月 15 日以 Muse Spark Open 之名兑现:总参数 816B,激活参数 42B,采用的不是 Apache 2.0 的许可证。
报告称该模型实际上是什么
该架构现已公开到张量形状这一层级,并且解释了人们一直在争论的大部分行为。Muse Glimmer 总参数量约为 29.6B:其中约 25.16B 位于 52 个 Transformer 块中,1.34B 为不共享的词元嵌入,1.34B 为不共享的输出投影,另有独立的 1.8B 感知编码器——一个 ViT-G/14,50 层、宽度 1536,在 448 像素参考网格上以 14 像素为 patch 进行切分。隐藏维度为 6,656。注意力采用分组查询注意力,32 个查询头对 2 个键值头,比例为 16:1,并在重复的“三个局部层加一个全局层”模式中使用 2,048 个 token 的滑动窗口,RoPE 仅应用于局部层。词表为 202,048 个 token,使用 Llama 4 BPE 分词器,上下文为 128K 以上。知识截止日期为 2026 年 1 月 4 日。
论文中有两个数字值得比发布当天获得更多关注。第一个是语言数量:摘要称“超过一百种语言”,正文称约140种,附录报告 Omnilingual-GAIA2 得分为60.4,而 Gemma4-31B 为37.5,Qwen3.6-27B 为45.0。这是很大的差距,而且和表格中其他所有内容一样,这是 Meta 自己跑出的结果。第二个是训练配方。预训练是使用教师模型的前256个 logit,从 Muse Spark 进行 logit 蒸馏;在训练的前95%使用 KL 散度,最后5%切换到基于真值目标的交叉熵,以纠正 top-k 蒸馏引入的截断偏差。中期训练将上下文从32K扩展到128K,并注入智能体轨迹数据;后训练依次是监督微调、同策略蒸馏,然后是多目标强化学习。Meta 明确表示,在这个规模下,同策略蒸馏胜过了仅使用强化学习的配方——对于任何要训练自己的小型智能体模型的人来说,这都是一个有用的数据点。
产品简报没有变化。Meta 构建 Glimmer 是为了支持“始终在线的本地智能体工作流”——这种智能体会调用工具、遵循多步计划、在调用失败时能够恢复而不是停下,并且可以调高或调低推理力度。它面向的是那些并不光鲜的工作:本地编程、函数调用、日程管理、文件整理、LLM-as-a-judge 评估。它运行在 OpenClaw 等编排框架之下;论文点名提到 OpenClaw,称其正是对紧凑、可靠的工具调用器存在需求的根本原因。
“能装进你的 GPU”这一说法中的数字从何而来
这是技术报告旨在定论的部分,而且它比营销宣传更经得起推敲。在 BF16 下,权重占用 55.7GB。Meta 面向内存为 24GB 或 32GB 的部署,为未量化的 KV cache、感知编码器和 DFlash 草稿模型预留空间,因此目标是将语言模型权重控制在 20GB 以下。它评估了七种训练后量化方案——GPTQ、AWQ、均匀 NVFP4、均匀 MXFP8、llama.cpp 的 Q4_K_M、名为 Greedy-KL 的校准变体,以及改编版 EvoPress——先对照留出集上的负对数似然,再对照 15 项下游基准。
结果是两个具名部署配置,而不是一个含糊的“4-bit”说法。32GB 配置是 EvoPress,权重为 19.65GB,在 15 项基准测试中平均为 75.6%,而 BF16 为 75.7%——相差 0.1 个百分点。24GB 配置是占用更小的 Q4_K_M,平均为 74.8%,低 0.9 个百分点。平均响应长度从 BF16 的 11,070 个 token 变为 EvoPress 的 11,417 个和 Q4_K_M 的 10,774 个,因此“激进量化会拉长思维链长度”这一常见担忧在这里并未出现。这些是 Meta 在其评估组合上的测量结果;它们是任何人针对该模型发布过的最具体的质量与内存对比数字,但仍然属于厂商数据。
速度是这篇论文唯一比博客文章更单薄的地方。报告称,4 位权重加上投机解码可在“单张 RTX 5090 上达到实用速度”,并详细描述了草稿模型——五层、块大小 16、32 个查询头和 8 个键值头,使用 D-PACE 目标在 on-policy rollout 上离线训练——但没有发布吞吐量表格。流传的数字——在 RTX 5090 上解码速度约提升 3.1 倍(在 llama.cpp 中从 74.9 到 233 tokens/sec)、在 M5 Max 上提升 1.8 倍、在 M4 Max 上提升 1.5 倍——来自 Meta 的发布材料和模型卡,而非这份报告。在有人在自己的机器上复现之前,应将这些数字视为厂商声明;而对于本地模型来说,这确实是一个很容易运行的实验。
为什么这次发布的意义超越规格表
自2025年春季的Llama 4以来,Meta在开放权重方面一直保持沉默,退守到Meta Superintelligence Labs旗下的专有前沿产品线。Muse Glimmer是这一战略的公开回归,它伴随一篇14页的扎克伯格文章《未来属于每个人》而来,该文主张集中控制才是真正的AI风险,同时还配套了一个同名10亿美元基金。这篇论文没有重复那些政治内容;它做了更有用的事,即表明开放权重的回归并非一次性的姿态。
10月15日,Meta 发布了 Muse Spark Open 的权重——总参数 816B,激活参数 42B,上下文长度达 100 万 token,并且据 Meta 称,它能在两台搭载 MLX 的 Apple M5 Ultra Mac Studio 上运行。它是那位“教师”模型的开源权重同门,也回答了本文最初悬而未决的问题。这个答案带有一个附加说明:Muse Spark Open 以 Muse Model License 发布,附带有限的商业条款,而非 Apache 2.0。Glimmer 仍是两者中许可更宽松的一个,而且凭借 30B 的规模,它是这对模型中唯一能装进单块消费级 GPU 显存的。Meta 自己的定位是:Spark Open 是面向拥有 Mac Studio 设备组合的用户的桌面级模型;Glimmer 则是适合 24GB 显卡的那一个。
上述所有 Spark Open 数据都来自 Meta,尤其是“能在两台 Mac Studio 上运行”的说法,尚未被独立复现。没有争议的是产品阵容的形态:一个许可宽松的 30B 智能体模型、一个受限的 816B 旗舰模型,以及位于两者之上的前沿 API 层级。这是一套连贯的开放权重策略,而非单一发布;任何关于基于 Meta 较小模型进行构建的决策,都应把这一点纳入考量。

“烟熏”说法,逐行审视
上方的排行榜是在发布日生成的,其中有一行此后已被超越:在它的 Artificial Analysis 一栏中,Muse Glimmer 仍显示为“无条目”。Meta 自己的评分卡本身就在三十多行中,将高推理强度的 Muse Glimmer 与 Gemma4-31B 和 Qwen3.6-27B 进行比较。发布日的模式依然成立:最大的优势在于通用智能体推理、搜索和多语言工作。
• MCP-Atlas(智能体工具使用)——Muse Glimmer 75.5,Gemma4-31B 54.2,Qwen3.6-27B 62.5。仍是本组最受关注的一行,也是差距最大的一项。
• DeepSearch QA — 74.6,对比 61.7 和 71.1;GAIA2 — 43.3,对比 36.4 和 40.0;WildClawBench — 47.6,对比 37.6 和 43.2。
• GDPval-AA v2 —— 953 Elo,相比之下 Gemma 为 811、Qwen 为 1,141。这一点值得停下来想想:在经济价值可观的知识型工作上,Qwen 以大幅优势胜出。
• {{1}}SWE-Bench Pro{{/1}} — 51.2,相较 36.9 和 50.2;{{2}}ARC-AGI{{/2}} — 高推理档下 66.9,报告新增的 xhigh 档下 67.9;{{3}}LiveCodeBench Pro (2025 Q2){{/3}} — high 档下 64.1,xhigh 档下 66.8。
• τ³-Banking — 23.5,对比 15.1 和 16.7;PinchBench(工具使用)— 90.5。
它落败的那些行同样具有信息量。Qwen3.6-27B 在手操电脑使用和终端任务上占优:OSWorld-Verified 为 75.6,对 Glimmer 的 65.9;TerminalBench 2.1 为 60.7,对 51.7;SWE-Bench Verified 为 77.2,对 76.0;并在 SkillsBench 上以 46.6 对 44.3 略胜一筹。Gemma4-31B 的隐私与安全记录更好——CIMemories 违规率为 12.1%,而 Glimmer 为 26.4%、Qwen 为 53.4%;在 Siren AgentDojo 上的攻击成功率最低,为 25.6%,而 Glimmer 为 28.4%、Qwen 为 40.3%。Gemma 在专项推理测试上也略占优势,GPQA Diamond 为 85.7,对 83.5;Humanity's Last Exam 为 23.6,对 22.0。
方法论附录正是改变你应如何解读上述全部内容的部分,它也纠正了本文在发布时所说的内容。并非每一行都来自 Meta 自己。对于竞争对手模型,Meta 报告的是“自报分数或我们内部复现结果中最有利的那个”,并且有四项基准——τ³-Banking、GDPval-AA v2、Terminal-Bench 2.1 和 SciCode——来源是 Artificial Analysis,而非内部运行。Qwen3.6-27B 的 SWE-Bench Verified 数据是 Qwen 自己的自报结果。Qwen 的 SWE-Bench Pro 数据是 Meta 的内部运行结果,因为 Qwen 公布的数字来自该基准的改进版本,而 Meta 评估的是原始任务集。对于其余部分,Meta 自己复现了竞争对手的模型,并表示其智能体工具和系统提示词“可能并未针对专有的第三方模型进行专门调优”。
这比发布博客所给出的披露更谨慎,而且是一把双刃剑。它并非一场干净的厂商全面胜出,这反而增强了表格的可信度。但“在自我报告与我们复现之间取最有利者”这条规则,只会在对手自家数字更高的行上帮到对手,而 Meta 关于未调优设置的说明仍适用于它自己生成的每一行。行级细节现在可审计,这正是你想要的;但偏倚的方向无法从论文中完全得知。
独立记分牌显示的内容
Artificial Analysis 现已对该模型完成评分,这消除了本文在整个八月一直保留的“尚无独立结果”这一限定说明。在 AA 当前的指数中,Muse Glimmer 在高推理强度下的 Intelligence Index 为 17,在其对比集合的 141 个模型中排名第 14。Qwen3.6-27B 为 21,Gemma4-31B 为 15。AA 还测得每秒 137 个输出 token,首 token 时间为 0.91 秒——在该类别中属于较快水平,在 64 个模型中排名第 16——并且每项 Intelligence Index 任务成本约为 0.06 美元。
这些分数水平需要附加说明,而排名不需要。AA 在发布周的文章中把同样三个模型在其指数上列为 35、38 和 30;当前的模型页面则把它们列为 17、21 和 15。绝对数字变了,顺序没变。无论重新缩放的原因是什么,两次读数中稳定不变的事实都是排名:在综合指标上,Qwen 领先于 Glimmer,Glimmer 领先于 Gemma,而且 Glimmer 在智能体专项行上也领先。这支持的是一种比“领先于规模相当的开源模型”更窄的说法——在通用智能指数上,4 月发布的 27B 模型仍然胜出——而更窄的说法才是准确的说法。
AA 在发布周的评估补充了一项值得延续的发现:Muse Glimmer 的幻觉率为 82%,而 Qwen3.6-27B 为 49%,AA-Omniscience 指数为 −33。对于一个在你的机器上无人值守运行并调用工具的智能体来说,这个数字比 MCP-Atlas 更能决定你该给它多少自主权。AA 现在还已将 Qwen3.6-27B 标记为弃用,转而推荐 Qwen3.8-27B,因此本表大部分内容中用来与 Glimmer 对比的竞争对手,已不再其厂商的当前模型——这一细节是 Meta 的对比在八月无法预见的,也是这份十月发布的报告没有涉及的。
以下截图是 Glimmer 被打分之前的对比页面,因此其中显示的是 Glimmer 即将进入的赛场,而非 Glimmer 身处其中的情形。请将其视为验证前的基线,而非当前排名。

实际运行成本
Muse Glimmer 本身是免费的——Apache 2.0,不按 token 收费,也无需向 Meta 付费,报告还确认该版本包含全精度权重、4 位变体和 DFlash 推测头。代价在于其底层硬件。BF16 需要 55.7GB,也就是需要两张卡,消费级单卡都不行。如果你要购买,32GB EvoPress 配置档是首选:相比 BF16,它的平均准确率只损失 0.1 个百分点,可装入单张 32GB 显卡,或配备统一内存的高端 Mac。24GB Q4_K_M 配置档损失 0.9 个百分点,可装入 RTX 5090 级别的显卡,对于持续运行的智能体来说,这是合理的取舍。
如果你更愿意租用而不是购买,所跟踪的托管费率现在已低于本页在八月引用的水平。Artificial Analysis 记录到,Muse Glimmer 的输入价格为每百万 token 0.30 美元,输出价格为每百万 token 1.20 美元,而发布时的首批挂牌价为 0.35 美元和 1.50 美元,同时有 87% 的缓存折扣,混合费率接近 0.21 美元。这些是供应商挂牌的市场价格,而不是 Meta 的定价——Meta 并未发布自己的托管 Glimmer 端点,其开发者文档是围绕将你的工具指向本地 Muse Glimmer 服务器来编写的。这一变动是同一供应商降价,还是有更便宜的供应商加入了被跟踪的集合,索引并未显示;无论如何,对于开放权重发布而言,方向是可以预见的。
真正值得仔细权衡的比较仍然是本地与托管,而两者的差距并不像营销宣传所暗示的那样接近。32GB 显卡是一笔固定成本,会分摊到你生成的每一个 token 上;托管费率则是边际成本,会随用量规模增长,而且如果提供商退出,这项成本也就消失了。在 $0.30 和 $1.20 的价位下,托管路线已经足够便宜,大多数团队在购买硬件之前都应先从这里起步;只有当 token 不能离开本机,或用量的规模高到 GPU 比账单更便宜时,本地路线才会胜出。
有一点关于我们的说明,因为它关系到你会如何为这一切定价。Muse Glimmer 并不在 OrcaRouter 的目录中——我们路由的是托管 API,而该模型尚未作为托管路由上线,所以 0% 加价和“一键通”的安排目前并不适用于它。真正适用的是那条准则:对于我们确实路由的 200 多款模型,所显示的价格是供应商的标价按 0% 加价原样传递,因此厂商降价当天就在这里生效,而不是在重新核算利润率之后。无论你以何种方式运行 Glimmer,这个对比都应当以这一标准来衡量。
本周你实际会如何使用它
由于它以开放权重形式发布,获取方式就是下载。基础仓库是 Hugging Face 上的 meta-models/Muse-Glimmer-30B,同时发布了 4 位变体和 GGUF 构建版本。首日运行时支持包括 llama.cpp、MLX 和 ExecuTorch;Ollama、LM Studio、vLLM 和 SGLang 在几天内跟进,并列出了针对 AMD、Arm、Dell、Intel 和 Nvidia 的硬件优化工作。对大多数人来说,实用路径没有变化:拉取 GGUF,在 llama.cpp 或本地运行器中加载它,让智能体脚手架指向它,并从 24GB 的 Q4_K_M 配置档开始,除非你有 32GB 余量来使用 EvoPress 那个配置档。
如果你正在决定是否基于它构建,诚实的说法是:Glimmer 是一个不错的本地智能体,有据可查的质量下限、经实测的幻觉问题,以及一张如今已部分可审计的厂商基准测试表。教师模型则是另一回事:Muse Spark 1.2 可通过 OrcaRouter 路由,价格为每百万输入 token 1.25 美元、每百万输出 token 4.25 美元,因此团队可以在设备端运行小模型,处理低成本、私密、常开的工作,并通过同一个密钥将困难案例路由到大型模型。这种拆分——本地学生模型负责常规循环,托管教师模型负责升级处理——正是这两个版本实际支持的架构,而且本周就可以用你可能已经拥有的一块 GPU 加上一笔 token 预算来测试。自动故障转移正是让托管侧可以安全进入生产路径的原因,尤其是在模型仍在建立独立记录的时候,而这正是 Glimmer 所处的状态。
下面的截图是发布当天模型卡的样子。其中“未由任何推理提供商部署”这句话指的是 Hugging Face 自家的第一方推理,这与 8 月 9 日开始的第三方托管是两回事;它也及时提醒了我们,这句话过时得有多快。

看什么
原本将为这件事定局的三件事,大多已有了结果。Spark 的开放权重版本已于 10 月 15 日发布。独立评测也已完成,结果显示 Qwen 在综合指标上领先,Glimmer 在智能体能力上领先,Gemma 则两者都落后。托管服务已经铺开,监测到的价格现在是 0.30 美元和 1.20 美元,而不是 0.35 美元和 1.50 美元。
剩下的问题更聚焦,也更有意思。首先,Meta 之外是否有人能复现这种量化权衡——0.1 个百分点和 0.9 个百分点的差距是报告中最有力的部分,也是在 24GB 显卡上最容易验证的部分。其次,智能体方面的领先优势能否在一个并非围绕该模型构建的评测框架中保持;MCP-Atlas 的 75.5 是需要超越的分数,也是最容易受脚手架差异影响的一项。第三,Meta 的下一个小型发布是沿用 Apache 2.0 许可证,还是 Spark Open 发布时所采用的受限 Muse Model License——这一选择将决定 Glimmer 系列能否继续作为他人产品的基础使用。
发布推文在消息本身说得没错,对结论则显得宽容。技术报告补充的正是八月缺失的部分:现在可以看到测了什么、在什么硬件上测、由谁测,以及质量代价有多大。这比基准测试表或那条推文都更适合作为决策依据,也正是这个模型仍值得围绕它做规划、而不只是值得一读的原因。
真正值得回答的问题
Muse Glimmer 真的是开源的吗?
它是在 Apache 2.0 许可下开放的权重——任何人都可以下载、修改、微调并商业部署,而无需向 Meta 付费。报告还确认了许可证实际覆盖的范围:全精度权重、两个 4 位变体以及 DFlash 草稿头均已发布。未发布的是训练数据和 Muse Spark 教师模型的权重,这正是为什么使用“开放权重”这一谨慎措辞,而不是 OSI 意义上的完全开源。就实际而言,这与让 Llama 成为 AI 领域部署最广泛的开放模型家族的那项安排相同。
Muse Glimmer 真的能击败 Gemma4-31B 和 Qwen3.6-27B 吗?
在 Meta 自己的表格上,它在大多数智能体和搜索相关的行中胜出,而方法学附录现在标明了这些行中哪些是 Meta 自己运行的,哪些来自 Artificial Analysis 或竞争对手自己的报告。独立解读则更为有限:在 AA 的 Intelligence Index 上,Qwen3.6-27B 得分为 21,Muse Glimmer 为 17,Gemma4-31B 为 15。因此,准确的说法是:Glimmer 在其同尺寸级别中于工具使用、多步规划和多语言智能体工作方面领先,但在综合通用智能或计算机使用任务上并不领先。
我能在笔记本电脑上运行它吗?
只有当“笔记本电脑”指的是配备 24GB 或 32GB 独立 GPU 的机型,或统一内存达到这一容量的高端 Mac 时,才成立。报告将 BF16 权重定为 55.7GB,并针对两个压缩配置:用于 32GB 机器的 19.65GB 权重,以及用于 24GB 的更小 Q4_K_M 版本,两者都为 KV cache、感知编码器和草稿模型留出余量。在集成显卡或 16GB 机器上,你面对的更可能是更重的量化和缓慢的输出,而不是该版本所围绕打造的常驻智能体。
我在哪里能获取它,它有 API 吗?
权重位于 Hugging Face 的 meta-models/Muse-Glimmer-30B,你可以通过 llama.cpp、MLX、ExecuTorch、Ollama 或 LM Studio 在本地运行它。第三方平台提供托管访问,根据 Artificial Analysis 跟踪的提供商定价,价格约为每百万输入 token 0.30 美元、每百万输出 token 1.20 美元。Meta 并未发布自己的托管 Glimmer 端点,该模型也不在 OrcaRouter 上——如果它作为托管路由上线,那么能访问我们目前确实路由的 200 多个模型的同一密钥也将能访问它,但今天并非如此。
本文中的对比1
根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新
