Qwen 3.8 MoE: Quais Membros São Mistura de Especialistas e o Que Isso Muda para Você

Sim — a geração 3.8 contém modelos de mistura de especialistas, e os que respondem à pergunta direta são Qwen3.8-2.4T-A95B, o núcleo Max de 2,4 trilhões de parâmetros que a A​libaba publicou como pesos abertos em agosto de 2026, e Qwen3.8-Flash-Next, a prévia esparsa de 125 bilhões de parâmetros da arquitetura Qwen4. Os dois membros que um leitor pode realmente chamar — Qwen3.8-Max e Qwen3.8-Flash — são builds servidos pelo próprio fornecedor derivados dessas duas arquiteturas, portanto são esparsos por descendência, embora suas configurações internas não sejam publicadas. A única exceção é o membro que a maioria das pessoas já tem ao chegar aqui: Qwen3.8-27B é denso, e nada em seu nome diz isso. Essa é a resposta completa, e o restante desta página são os números por trás dela, cada um retirado do próprio cartão de modelo da A​libaba, e não de um tópico de discussão.

As datas neste artigo servem para datar os modelos, não para anunciá-los. O que esta página responde é a pergunta que os leitores estão digitando agora: de 2026-09-15 a 2026-10-12, nossa própria propriedade do Search Console registrou 432 impressões e 35 cliques na única consulta qwen 3.8 moe — uma taxa de cliques de 8,1%, a mais alta de qualquer consulta do seu lote — além de três linhas de cauda longa que levam a família a 440 impressões e 36 cliques. Um leitor que digita isso não está procurando notícias. Ele está tentando descobrir se o modelo que está prestes a baixar ou chamar é esparso, porque a resposta decide o que ele pode executar. Nada neste site respondia a isso, e é por isso que esta página existe. Quando a pergunta é sobre um membro específico e não sobre a arquitetura, a página responsável por ele é nomeada à medida que avançamos.

O nome diz, se você souber a notação.

A​libaba não coloca "MoE" em nenhum nome de modelo Qwen 3.8. Ela escreve a contagem de parâmetros como total-Aativos, então 2.4T-A95B lê-se como 2,4 trilhões de parâmetros armazenados e 95 bilhões ativados por token. A metade -A é a pista: um nome que contém um número de ativação é um modelo esparso, e um nome com um único número redondo de bilhões é um modelo denso. Qwen3.8-27B não traz número de ativação porque cada um de seus parâmetros está ativo em cada token, e seu cartão o chama de "um modelo denso, compacto e amigável à implantação" na primeira frase que o descreve.

Essa leitura se mantém em toda a geração:

• Qwen3.8-2.4T-A95B — mistura de especialistas, 512 especialistas, 2,4T armazenados / 95B ativos, pesos abertos, licença personalizada.

• Qwen3.8-Flash-Next — mistura de especialistas, 512 especialistas, 125B armazenados mais uma tabela de n-gramas de 51B / 6B ativos, pesos abertos, licença comunitária.

• Qwen3.8-Max — a build servida; a própria ficha da Alibaba para os pesos diz que o Max é "a versão oficial baseada em Qwen3.8-2.4T-A95B", e sua página de modelo na nuvem o descreve como um "carro-chefe MoE de 2,4 trilhões de parâmetros". Esparso.

• Qwen3.8-Flash — a build disponibilizada derivada do Flash-Next, com um contexto de 1M de tokens por padrão. Esparsa por descendência.

• Qwen3.8-27B — denso, 27B armazenados e 27B ativos, Apache 2.0. Nenhum especialista em qualquer parte de sua configuração.

A arquitetura, a partir dos próprios cards

Ambos os membros esparsos são documentados da mesma forma no Hugging Face, e os números abaixo são citados de Qwen/Qwen3.8-2.4T-A95B e Qwen/Qwen3.8-Flash-Next, respectivamente. Quando um número não está em um card, esta página diz isso em vez de pegá-lo emprestado de um fórum.

Qwen3.8-2.4T-A95B — o núcleo Max

É um modelo de linguagem causal de 92 camadas cuja estrutura de blocos está escrita na ficha como 23 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE)). Em termos simples: três blocos de atenção linear entre cada bloco de atenção completa, e uma camada feed-forward de mistura de especialistas depois de ambos. A camada de especialistas é especificada como 512 especialistas, 10 roteados mais 1 compartilhado ativados por token, com dimensão intermediária dos especialistas de 2048. Os parâmetros armazenados são 2,4T e os parâmetros ativados são 95B. O esquema de atenção é híbrido: Gated DeltaNet com 128 cabeças lineares para V e 16 para QK na dimensão de cabeça 128, emparelhado com Gated Attention com 64 cabeças de consulta e 4 cabeças KV na dimensão de cabeça 256, com uma dimensão rotativa de 64. O contexto é de 262.144 tokens nativamente, extensível até 1.010.000. A ficha também menciona previsão de múltiplos tokens treinada com múltiplos passos, e o arquivo de configuração confirma diretamente os campos esparsos: num_experts: 512, num_experts_per_tok: 10, num_hidden_layers: 92.

Duas coisas sobre as quais a ficha é explícita e que o leitor não deve ignorar. Ela é somente texto — sem torre de visão — e a própria dica da ficha afirma que o Max hospedado adiciona entrada de visão, suporte a modo sem raciocínio, contexto de 1M por padrão e ferramentas integradas além desses pesos, então o artefato baixável é mais restrito do que a API com a qual compartilha um núcleo. E ele é distribuído sob um acordo personalizado, qwen3.8-max, não Apache 2.0 e não a licença comunitária; esta página não rediscute esses termos, e eles são abordados na página dos próprios pesos.

Qwen3.8-Flash-Next — a arquitetura esparsa menor

Este é o membro onde a razão de esparsidade é mais extrema e mais facilmente mal interpretada. Seu card fornece 48 camadas organizadas como 12 × (3 × (Gated DeltaNet → MoE) → 1 × (Qwen Sparse Attention → MoE)), os mesmos 512 especialistas com 10 roteados mais 1 compartilhado, e uma dimensão intermediária de especialista de 640 — um terço da do núcleo Max. Os parâmetros são declarados de forma incomum: "125B com 6B ativados, mais 51B de embedding n-gram e 4B de MTP". Esses três componentes são o motivo pelo qual seu repositório lista 180B na barra lateral enquanto o corpo MoE é 125B, e pelo qual um leitor que compara "125B vs 2,4T" está comparando os números errados. A atenção é Gated DeltaNet combinada com Qwen Sparse Attention, que o card afirma operar no nível de micro-bloco em vez de selecionar tokens individuais. O contexto é 262.144 nativamente, extensível até 1.000.000. Licença: Qwen Community License 1.0. Seu arquivo de configuração também registra num_experts: 512, num_experts_per_tok: 10 e 48 camadas.

O que a Alibaba não publicou

Para o Qwen3.8-Max em serviço, não há contagem de especialistas, nem contagem de camadas, nem número de parâmetros ativados, nem especificação de roteamento por token em qualquer material do fornecedor que esta página conseguiu encontrar. O fornecedor descreve-o como um carro-chefe MoE de 2,4 trilhões de parâmetros e afirma que ele é construído sobre o Qwen3.8-2.4T-A95B; esse é o limite do detalhe publicado, e é uma inferência razoável a partir dessas duas afirmações que a arquitetura corresponde, não um fato documentado. A mesma lacuna se aplica, no mesmo sentido, ao Qwen3.8-Flash em serviço, cuja derivação do Flash-Next é declarada, mas cuja configuração interna não é publicada de forma alguma. Qualquer página que lhe apresente uma contagem de especialistas para o Max hospedado está preenchendo uma lacuna que o fornecedor deixou aberta.

O que o número de parâmetros ativos muda na hora de executá-lo

É por isso que a pergunta sequer é feita, e a resposta corre em duas direções ao mesmo tempo.

O tamanho do download segue o total, não a contagem de ativos. O Qwen3.8-2.4T-A95B tem cerca de 4,9 TB distribuídos em 213 shards no seu repositório BF16 e cerca de 2,5 TB no irmão FP8 — de qualquer forma, um artefato em escala de rack, não de estação de trabalho. O Qwen3.8-Flash-Next tem cerca de 360 GB em BF16 distribuídos em 131 shards, e cerca de 180 GB segundo a contagem da própria barra lateral quando os componentes são somados. No disco, nada no design esparso torna qualquer um deles pequeno; os pesos dos especialistas todos existem e todos precisam ser armazenados.

A largura de banda de computação e de memória acompanha a contagem de ativos. Como apenas 95B dos 2,4T de parâmetros do Max core, e apenas 6B dos parâmetros armazenados do Flash-Next, participam de qualquer token individual, o custo por token desses modelos fica mais próximo do de um modelo denso muito menor do que seus tamanhos de arquivo sugerem. Essa diferença é o motivo inteiro pelo qual um modelo de 2,4 trilhões de parâmetros pode sequer ser servido, e é por isso que a mesma proporção total/ativos que parece uma nota de rodapé na ficha é o número mais relevante operacionalmente nela. Esta página não colocará um número de tokens por segundo ao lado dela, porque nenhuma taxa que pudéssemos declarar se sustentaria em duas quantizações diferentes e uma stack de serving desconhecida — a proporção é o fato transferível, o throughput não é.

Flash-Next acrescenta uma segunda nuance que deve ficar aqui, e não em uma nota de rodapé. Sua tabela de embeddings n-gram de 51B é uma estrutura de consulta, e a própria formulação da ficha é que embeddings são "mais propensos a offloading do que Mixture-of-Experts". É isso que torna um checkpoint desse tamanho executável com a tabela de embeddings residente na memória do host, em vez de fixada na memória do acelerador — uma escolha de projeto, não uma afirmação sobre a sua máquina. A consequência prática é que o Flash-Next é mais fácil de acomodar adicionando RAM do sistema do que adicionando VRAM, o que é o oposto de como se comporta um modelo denso de tamanho armazenado equivalente.

Onde o irmão denso se senta

O Qwen3.8-27B é o contraexemplo em relação ao qual o resto da geração é medido: 64 camadas, uma dimensão intermediária de feed-forward de 17.408 de largura em vez de um banco de especialistas, 27B armazenados e 27B ativos, Apache 2.0, e cerca de 55,6 GB de pesos BF16 que cabem em hardware que uma pessoa possui. Enquanto os membros esparsos trocam armazenamento por uma pequena pegada computacional por token, o denso troca o custo por token por previsibilidade — todos os parâmetros estão ativos, de modo que memória e velocidade são fáceis de dimensionar. O tratamento completo desse modelo, seus formatos e seu encaixe pertencem à página Qwen3.8-27B, que é a dona dele; esta página só precisa do contraste.

O que não está resolvido

Se os Qwen3.8-Max e Qwen3.8-Flash servidos realmente instanciam as mesmas contagens de especialistas e o mesmo roteamento que os núcleos disponíveis para download não está verificado: o fornecedor declara a derivação e para por aí, portanto trate qualquer contagem específica de especialistas para os modelos da API como não confirmada. E o ecossistema aberto de quantização em torno do Flash-Next produziu versões que vão de aproximadamente 1 bit a precisão total, sem nenhuma comparação controlada de baixa contagem de bits publicada em hardware equivalente — se você estiver escolhendo uma largura de bits, essa decisão cabe a você, por meio de medições.

Disponibilidade

Os dois membros cujas contagens de especialistas estão documentadas — Qwen3.8-2.4T-A95B e Qwen3.8-Flash-Next — são artefatos de download e hospedagem. Nenhum deles está na nossa lista de modelos hoje, e não há nenhum id semelhante a eles, portanto esta página não faz nenhuma afirmação de disponibilidade sobre eles ou sobre qualquer modelo chamado "Qwen3.8-MoE": o nome descreve uma arquitetura, e nada no nosso catálogo é vendido sob ele. O que nós servimos são três outros membros da mesma geração, e um leitor cuja pergunta era arquitetural pode chamar qualquer um deles:

• qwen/qwen3.8-27b — o denso, Apache-2.0, auto-hospedável; entrada de texto, imagem e vídeo, contexto de 262.144 tokens, US$ 0,33 por milhão de tokens de entrada e US$ 2,40 por milhão de saída na lista publicada do provedor.

• qwen/qwen3.8-flash — a via de produção esparsa derivada do Flash-Next; contexto de 1M de tokens, $0,15 por milhão de tokens de entrada e $0,47 por milhão de tokens de saída, com entrada em cache em torno de $0,018.

• qwen/qwen3.8-max — o núcleo Max por trás de um endpoint; contexto de 1 milhão de tokens, US$ 2,00 por milhão de entrada e US$ 6,00 por milhão de saída.

Os três ficam atrás de um endpoint compatível com OpenAI, de modo que executar a variante densa contra a esparsa servida no seu próprio tráfego custa uma mudança de model-id em vez de uma integração. Esses preços são a lista publicada do provedor, repassada sem markup, e é por isso que uma alteração de preço do fornecedor chega ao seu endpoint no mesmo dia.

A metade densa dessa comparação também é a saída de emergência em termos de hardware, e é a que a maioria dos leitores desta página acaba escolhendo. O Qwen3.8-27B tem cerca de 55,6 GB de pesos em BF16, 27B armazenados e 27B ativos, Apache 2.0 — portanto é o único membro desta geração cujo encaixe você consegue dimensionar em uma única calculadora. Os membros esparsos são mais baratos por token servido e mais pesados de manter: cerca de 4,9 TB de pesos para o núcleo Max, cerca de 360 GB para o Flash-Next, ambos exigindo infraestrutura que você provisiona em vez de alugar. Qwen3.8-27BA página do Qwen3.8-27B trata do encaixe, dos formatos e das questões de licença; esta página para na arquitetura.

Então, a resposta sobre arquitetura muda o que você deve rodar? Menos do que a busca que trouxe você até aqui dá a entender. Se você está chamando um modelo, a economia dos membros esparsos já está embutida no que cobramos, e a escolha é uma questão de custo e qualidade, não de arquitetura. Se você está baixando um, a resposta é que nenhum modelo Qwen 3.8 com 512 especialistas cabe em uma estação de trabalho — o que cabe é o denso 27B, e essa é a decisão que a notação -A vinha tomando silenciosamente por você o tempo todo.

A metade densa dessa comparação também é a saída de emergência no hardware, e é a que a maioria dos leitores desta página acaba escolhendo. Qwen3.8-27B tem cerca de 55,6 GB de pesos BF16, 27B armazenados e 27B ativos, Apache 2.0 — então é o único membro desta geração cujo encaixe você consegue dimensionar em uma única calculadora.