Qwen 3.8 MoE：哪些成员是专家混合，以及它为你带来什么改变

是的——3.8 代包含混合专家模型，而能回答这个直白问题的，是Qwen3.8-2.4T-A95B，即 A​libaba 于 2026 年 8 月以开放权重发布的 2.4 万亿参数 Max 核心，以及Qwen3.8-Flash-Next，即 Qwen4 架构的 1250 亿参数稀疏预览版。读者实际可以调用的两个成员——Qwen3.8-Max 和 Qwen3.8-Flash——是厂商自己从这两种架构派生出的服务版本，因此尽管其内部配置未公开，它们从出身上说仍是稀疏的。唯一的例外是大多数人来到此处时已经持有的那个成员：Qwen3.8-27B是稠密的，而它的名字对此毫无体现。这就是完整的答案，而本页其余部分则是支撑它的数据，每一条都取自 A​libaba 自己的模型卡，而不是来自讨论帖。

本文中的日期用于为模型标注时间，而非用于发布它们。本页要回答的，是读者此刻正在输入的那个问题：在 2026-09-15 至 2026-10-12 期间，我们自己的 Search Console 资源记录到单一查询 qwen 3.8 moe 的 432 次展示和 35 次点击——点击率 8.1%，是该批次中所有查询里最高的——另有三条长尾记录，使这一族查询总计达到 440 次展示和 36 次点击。输入这一查询的读者并不是在找新闻。他们想弄清楚的是，自己即将下载或调用的模型是否为稀疏模型，因为答案决定了他们能运行什么。本站没有任何内容回答过这一点，这正是本页存在的原因。当某个问题针对的是具体成员而非整体架构时，我们会在行文中指明负责该问题的页面。

如果你懂这个记法，名字本身就已经告诉你了。

阿里巴巴不会在任何 Qwen 3.8 模型名称里写入“MoE”。它把参数数量写成总参数-A激活参数，因此2.4T-A95B读作存储 2.4 万亿参数、每个 token 激活 950 亿参数。-A这后半截就是关键线索：名称里带有激活数值的是稀疏模型，而只带一个整数十亿级数字的则是稠密模型。Qwen3.8-27B 不带激活数值，因为它的每一个参数在每个 token 上都是活跃的，其模型卡在描述它的第一句话里就称它为“紧凑、易于部署的稠密模型”。

该解读在这一代人中依然成立：

• Qwen3.8-2.4T-A95B——混合专家模型，512 个专家，2.4T 存储 / 95B 激活，开放权重，自定义许可证。

• Qwen3.8-Flash-Next — 混合专家模型，512 个专家，125B 存储参数外加 51B n-gram 表 / 6B 激活参数，开放权重，社区许可证。

• Qwen3.8-Max——实际部署的构建版本；阿里巴巴自己关于权重的说明卡称，Max 是"基于 Qwen3.8-2.4T-A95B 的官方版本"，而其云端模型页面则将其描述为"2.4 万亿参数的 MoE 旗舰"。稀疏。

• Qwen3.8-Flash——由 Flash-Next 衍生而来的已部署构建，默认支持 100 万 token 上下文。生来稀疏。

• Qwen3.8-27B — 稠密模型，27B 存储参数、27B 激活参数，Apache 2.0。其配置中完全不包含任何专家模块。

架构，来自卡牌本身

两个稀疏成员在 Hugging Face 上以相同的形态记录在案，下面的数字分别引自 Qwen/Qwen3.8-2.4T-A95B 和 Qwen/Qwen3.8-Flash-Next。若某项数字未出现在模型卡上，本页会如实说明，而不会从论坛借用。

Qwen3.8-2.4T-A95B — Max 核心

它是一个 92 层的因果语言模型，其块结构在模型卡上写作 23 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE))。通俗地说：每两个全注意力块之间有三个线性注意力块，并且两者之后都接一个专家混合前馈层。专家层规格为 512 个专家，每个 token 激活 10 个路由专家加 1 个共享专家，专家中间维度为 2048。存储参数为 2.4T，激活参数为 95B。注意力方案是混合式的：Gated DeltaNet 在头维度 128 下，为 V 使用 128 个线性头，为 QK 使用 16 个线性头，并与 Gated Attention 搭配，后者有 64 个查询头和 4 个 KV 头，头维度为 256，旋转维度为 64。原生上下文为 262,144 个 token，可扩展至 1,010,000。模型卡还指出，多 token 预测采用多步训练，配置文件直接确认了这些稀疏字段：num_experts: 512、num_experts_per_tok: 10、num_hidden_layers: 92。

这张卡片明确说明了两点，读者不应忽略。它是纯文本——没有视觉塔——并且卡片自身的提示指出，托管的 Max 在这些权重之上增加了视觉输入、非思考支持、默认 1M 上下文以及内置工具，因此可下载的产物比与其共享核心的 API 范围更窄。并且它是在自定义协议 qwen3.8-max 下发布的，而非 Apache 2.0，也不是社区许可证；本页面不再重新讨论这些条款，它们已在权重本身的页面上涵盖。

Qwen3.8-Flash-Next —— 更小的稀疏架构

这是稀疏比率最极端、也最容易被误读的成员。其卡片给出 48 层，组织方式为 12 × (3 × (Gated DeltaNet → MoE) → 1 × (Qwen Sparse Attention → MoE))，同样是 512 个专家，其中 10 个路由专家加 1 个共享专家，专家中间维度为 640——是 Max 核心的三分之一。参数表述得不寻常：“125B，其中 6B 激活，外加 51B n-gram 嵌入和 4B MTP”。正是这三个组成部分导致其仓库侧边栏列出 180B，而 MoE 主体为 125B，也导致读者在比较“125B 与 2.4T”时比较的是错误的数字。注意力机制是 Gated DeltaNet 与 Qwen Sparse Attention 配对，卡片称后者在微块级别运作，而不是选择单个 token。上下文原生为 262,144，可扩展至 1,000,000。许可证：Qwen Community License 1.0。其配置文件还记录了 num_experts: 512，num_experts_per_tok: 10 和 48 层。

Alibaba 尚未发布的内容

对于所提供的Qwen3.8-Max，本页所能找到的任何厂商资料中都没有专家数量、层数、激活参数量或逐 token 路由规格。厂商将其描述为一款 2.4 万亿参数的 MoE 旗舰模型，并表示它基于 Qwen3.8-2.4T-A95B 构建；这就是已公开细节的全部，而从这两句话可以合理推断其架构与之相符，但这并非有据可查的事实。同样的缺口在性质上也适用于所提供的 Qwen3.8-Flash：其源自 Flash-Next 的说法虽已给出，但内部配置压根没有公开。任何为你提供托管版 Max 专家数量的页面，都是在填补厂商留下的空白。

活跃参数量对运行它有何改变

正因如此，这个问题才会被提出来，而答案同时指向两个方向。

下载大小取决于总量，而非活跃数量。 Qwen3.8-2.4T-A95B 在其 BF16 仓库中约为 4.9 TB，分布在 213 个分片里；其 FP8 版本则约为 2.5 TB——无论哪种，都是机架级产物，而非工作站级产物。Qwen3.8-Flash-Next 在 BF16 下约为 360 GB，分布在 131 个分片里；按其自身侧栏的计数，将各组件相加后约为 180 GB。在磁盘上，稀疏设计丝毫不会让二者中的任何一个变小；专家权重全都存在，且都必须被存储。

计算和内存带宽取决于活跃参数数量。因为 Max 核心的 2.4T 参数中只有 95B，Flash-Next 的存储参数中只有 6B，会参与任意一个 token 的计算，所以这些模型的每 token 成本比其文件大小所暗示的更接近一个小得多的稠密模型。这一差距正是一个 2.4 万亿参数模型能够被提供服务的全部原因，也正是为什么那个在规格卡上看起来像脚注的总参数与活跃参数之比，才是其上最具运营相关性的数字。本页不会在旁边放一个每秒 token 数，因为我们能给出的任何速率都无法在两种不同的量化方式和未知的服务栈下成立——这个比率是可迁移的事实，而吞吐量不是。

Flash-Next 还带来了第二个值得在此说明、而非放进脚注的微妙之处。它的 51B n-gram 嵌入表是一种查找结构，而该卡片自身的表述是，嵌入“比 Mixture-of-Experts 更适合卸载”。正是这一点让这种规模的检查点能够在嵌入表驻留于主机内存、而非固定在加速器内存中时运行——这是一种设计选择，而不是关于你所用机器的断言。实际后果是，Flash-Next 通过增加系统内存比通过增加 VRAM 更容易装下，这与存储大小相当的稠密模型的行为正好相反。

密集同级元素所在的位置

Qwen3.8-27B 是衡量这一代其余模型时所对照的反例：64 层，前馈中间维度宽达 17,408，而非常见的专家库；存储 27B、激活 27B；Apache 2.0 许可；约 55.6 GB 的 BF16 权重，可装进个人自有的硬件。稀疏成员用存储换取每 token 较小的计算占用，而稠密模型则以每 token 成本换取可预测性——每一个参数都是活跃的，因此内存与速度的估算轻而易举。该模型的完整介绍、其各种格式与适配情况属于 Qwen3.8-27B 页面，那才是它的归属；本页只需呈现这一对比即可。

什么尚未确定

线上提供的 Qwen3.8-Max 和 Qwen3.8-Flash 是否真的实例化了与可下载核心相同的专家数量和路由，尚未得到验证：供应商只说明了其推导，便止步于此，因此对于 API 模型，任何具体的专家数量都应视为未经确认。而围绕 Flash-Next 的开放量化生态已经产生了从大约 1-bit 到全精度的各种构建，且在匹配硬件上并未发布受控的低位比较——如果你要选择位宽，这个判断需要由你自己测量。

可用性

两个专家数量有据可查的成员——Qwen3.8-2.4T-A95B与Qwen3.8-Flash-Next——属于可下载并自行托管的产物。二者均不在我们今日的模型列表之中，也不存在与之相似的 id，因此本页不对它们、也不对任何名为“Qwen3.8-MoE”的模型作出可用性声明：该名称描述的是一种架构，我们的目录中没有任何产品以此名义销售。我们实际提供的是同一代中的另外三个成员，而问题若属架构层面的读者，可任选其一调用：

• qwen/qwen3.8-27b——稠密架构、Apache-2.0 许可、可自行托管；支持文本、图像和视频输入，262,144 token 上下文，按服务商公布的价目表，每百万输入 token 0.33 美元、每百万输出 token 2.40 美元。

• qwen/qwen3.8-flash——源自 Flash-Next 的稀疏生产通道；100 万 token 上下文，每百万输入 $0.15、每百万输出 $0.47，缓存输入约 $0.018。

• qwen/qwen3.8-max——端点背后的 Max 核心；100 万 token 上下文，每百万输入 $2.00，每百万输出 $6.00。

这三者都位于同一个 OpenAI 兼容端点之后，因此要用稠密形态去跑线上所服务的稀疏形态，只需改一下模型 ID，而无需再做一次集成。这些价格是服务商公开的刊例价原样透传、不加任何加价，所以供应商一改价，当天就能传到你的端点上。

那个对比中的稠密一半，也是硬件上的退路，而且它是本页大多数读者最终会走的那条路。Qwen3.8-27B 的 BF16 权重约为 55.6 GB，存储 27B、激活 27B，Apache 2.0——所以它是这一代中唯一一个你能用一台计算器估算其适配规模的成员。稀疏成员每服务一个 token 更便宜，但持有成本更高：Max 核心的权重约为 4.9 TB，Flash-Next 约为 360 GB，两者都需要你自行配置而非租用的基础设施。至于Qwen3.8-27B页面负责适配、格式和许可证问题；本页止步于架构。

那么，架构答案会改变你应该运行什么吗？影响远没有带你来到这里的那番搜索所暗示的那么大。如果你是在调用模型，稀疏成员带来的节省已经计入我们的收费中，选择是成本与质量的权衡，而不是架构上的。如果你是在下载模型，答案是：没有任何一个拥有512个专家的Qwen 3.8模型能装进工作站——能装进去的是稠密的27B，而这正是-A记号一直以来在默默为你做的决定。

这一对比中稠密的那一半，同样是硬件上的逃生出口，也是本页大多数读者最终会走的那条路。Qwen3.8-27B约为 55.6 GB 的 BF16 权重，27B 存储、27B 激活，Apache 2.0——所以它是这一代里唯一一个，其能否装得下用一个计算器就能算清的成员。