Qwen 3.8 MoE: quali membri sono Mixture-of-Experts e cosa cambia per te

Sì — la generazione 3.8 contiene modelli mixture-of-experts, e quelli che rispondono alla domanda secca sono Qwen3.8-2.4T-A95B, il core Max da 2,4 trilioni di parametri che Alibaba ha pubblicato come pesi aperti in agosto 2026, e Qwen3.8-Flash-Next, l'anteprima sparsa da 125 miliardi di parametri dell'architettura Qwen4. I due membri che un lettore può effettivamente chiamare — Qwen3.8-Max e Qwen3.8-Flash — sono le build servite dal fornitore stesso derivate da quelle due architetture, quindi sono sparse per discendenza anche se le loro configurazioni interne non sono pubblicate. L'unica eccezione è il membro che la maggior parte delle persone ha già in mano quando arriva qui: Qwen3.8-27B è denso, e niente nel suo nome lo dice. Questa è tutta la risposta, e il resto di questa pagina sono le cifre che la sostengono, ognuna presa dalla scheda del modello di Alibaba stessa anziché da un thread di discussione.

Le date in questo articolo servono a datare i modelli, non ad annunciarli. Ciò a cui risponde questa pagina è la domanda che i lettori stanno digitando in questo momento: dal 2026-09-15 al 2026-10-12 la nostra proprietà Search Console ha registrato 432 impression e 35 clic sull'unica query qwen 3.8 moe — un tasso di clic dell'8,1%, il più alto di qualsiasi query del suo batch — più tre righe a coda lunga che portano la famiglia a 440 impression e 36 clic. Un lettore che digita quella query non sta cercando notizie. Sta cercando di scoprire se il modello che sta per scaricare o chiamare è di tipo sparse, perché la risposta decide cosa può eseguire. Nulla su questo sito lo chiariva, ed è per questo che questa pagina esiste. Dove una domanda riguarda un membro specifico anziché l'architettura, la pagina che ne è titolare viene nominata man mano che procediamo.

Il nome te lo dice, se conosci la notazione.

Alibaba non mette "MoE" in nessun nome di modello Qwen 3.8. Scrive il conteggio dei parametri come totali-Aattivi, quindi 2.4T-A95B si legge come 2,4 trilioni di parametri memorizzati e 95 miliardi attivati per token. La -A metà è l'indizio: un nome con un valore di attivazione è un modello sparse, e un nome con un singolo numero tondo di miliardi è un modello dense. Qwen3.8-27B non riporta alcun valore di attivazione perché ognuno dei suoi parametri è attivo su ogni token, e la sua scheda lo descrive come "un modello dense compatto e adatto al deployment" nella prima frase che lo descrive.

Quella lettura vale per tutta la generazione:

• Qwen3.8-2.4T-A95B — mixture-of-experts, 512 esperti, 2.4T memorizzati / 95B attivi, pesi aperti, licenza personalizzata.

• Qwen3.8-Flash-Next — mixture-of-experts, 512 esperti, 125B memorizzati più una tabella n-gram da 51B / 6B attivi, pesi aperti, licenza community.

• Qwen3.8-Max — la build servita; la scheda ufficiale di Aibaba per i pesi afferma che Max è «la versione ufficiale basata su Qwen3.8-2.4T-A95B», e la pagina del modello cloud lo descrive come un «flagship MoE da 2,4 trilioni di parametri». Sparso.

• Qwen3.8-Flash — la build servita derivata da Flash-Next, con un contesto di 1M token per impostazione predefinita. Sparsa per discendenza.

• Qwen3.8-27B — denso, 27B memorizzati e 27B attivi, Apache 2.0. Nessun esperto da nessuna parte nella sua configurazione.

L'architettura, dalle schede stesse

Entrambi i membri sparsi sono documentati nello stesso formato su Hugging Face, e i numeri riportati di seguito sono citati da Qwen/Qwen3.8-2.4T-A95B e Qwen/Qwen3.8-Flash-Nextrispettivamente. Dove una cifra non è presente su una scheda, questa pagina lo dice invece di prenderla in prestito da un forum.

Qwen3.8-2.4T-A95B — il core Max

È un modello linguistico causale a 92 livelli la cui struttura a blocchi è scritta sulla scheda come 23 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE)). In parole semplici: tre blocchi di attenzione lineare tra ogni blocco di attenzione completa, e uno strato feed-forward mixture-of-experts dopo entrambi. Lo strato degli esperti è specificato come 512 esperti, 10 instradati più 1 condiviso attivati per token, con una dimensione intermedia dell'esperto di 2048. I parametri memorizzati sono 2.4T e i parametri attivati sono 95B. Lo schema di attenzione è ibrido: Gated DeltaNet con 128 teste lineari per V e 16 per QK a dimensione della testa 128, abbinato a Gated Attention con 64 teste di query e 4 teste KV a dimensione della testa 256, con una dimensione rotatoria di 64. Il contesto è di 262,144 token nativamente, estensibile a 1,010,000. La scheda nota anche la previsione multi-token addestrata con più passaggi, e il file di configurazione conferma direttamente i campi sparsi: num_experts: 512, num_experts_per_tok: 10, num_hidden_layers: 92.

Due cose su cui la scheda è esplicita e che un lettore non dovrebbe trascurare. È solo testo — nessuna torre di visione — e la nota della scheda stessa afferma che il Max ospitato aggiunge input visivo, supporto non-thinking, contesto da 1M per impostazione predefinita e strumenti integrati al di sopra di questi pesi, quindi l'artefatto scaricabile è più limitato dell'API con cui condivide il core. Ed è distribuito con un accordo personalizzato, qwen3.8-max, non Apache 2.0 e non la licenza community; questa pagina non riapre il dibattito su quei termini, che sono trattati nella pagina dei pesi stessi.

Qwen3.8-Flash-Next — l'architettura sparsa più piccola

Questo è il membro in cui il rapporto di sparsità è più estremo e più facilmente frainteso. La sua scheda indica 48 layer disposti come 12 × (Gated DeltaNet → MoE) → 1 × (Qwen Sparse Attention → MoE), gli stessi 512 esperti con 10 instradati più 1 condiviso, e una dimensione intermedia degli esperti di 640 — un terzo di quella del core Max. I parametri sono dichiarati in modo insolito: "125B con 6B attivati, più 51B di embedding n-gram e 4B di MTP". Questi tre componenti sono il motivo per cui il suo repository elenca 180B nella barra laterale mentre il corpo MoE è 125B, e per cui un lettore che confronta "125B vs 2,4T" sta confrontando i numeri sbagliati. L'attenzione è Gated DeltaNet abbinata a Qwen Sparse Attention, che secondo la scheda opera a livello di micro-blocco anziché selezionare singoli token. Il contesto è 262.144 in modo nativo, estensibile a 1.000.000. Licenza: Qwen Community License 1.0. Il suo file di configurazione registra anche num_experts: 512, num_experts_per_tok: 10 e 48 layer.

Ciò che Alibaba non ha pubblicato

Per il modello servito Qwen3.8-Max non esiste alcun numero di esperti, alcun numero di layer, alcuna cifra di parametri attivati né alcuna specifica di routing per token in nessun materiale del fornitore che questa pagina sia riuscita a reperire. Il fornitore lo descrive come un'ammiraglia MoE da 2,4 trilioni di parametri e dichiara che è basato su Qwen3.8-2.4T-A95B; questo è il limite del dettaglio pubblicato, e dalle due affermazioni si può ragionevolmente inferire che l'architettura coincida, non è un fatto documentato. La stessa lacuna vale, per natura, per il Qwen3.8-Flash servito, la cui derivazione da Flash-Next è dichiarata ma la cui configurazione interna non è affatto pubblicata. Qualsiasi pagina che ti fornisca un numero di esperti per il Max ospitato sta riempiendo una lacuna che il fornitore ha lasciato aperta.

Cosa cambia il valore dei parametri attivi riguardo alla sua esecuzione

Ecco perché la domanda viene posta, e la risposta corre in due direzioni contemporaneamente.

La dimensione del download segue il totale, non il conteggio degli attivi. Qwen3.8-2.4T-A95B è di circa 4,9 TB distribuiti su 213 shard nel suo repository BF16 e di circa 2,5 TB nel fratello FP8 — in ogni caso un artefatto su scala rack, non da workstation. Qwen3.8-Flash-Next è di circa 360 GB in BF16 su 131 shard, e circa 180 GB secondo il conteggio della sua stessa barra laterale una volta sommati i componenti. Su disco, nulla del design sparso rende l'uno o l'altro piccolo; i pesi degli esperti esistono tutti e devono tutti essere memorizzati.

La larghezza di banda di calcolo e di memoria segue il conteggio attivo. Poiché solo 95B dei 2.4T di parametri del core Max, e solo 6B dei parametri memorizzati di Flash-Next, partecipano a un singolo token, il costo per token di questi modelli è più vicino a quello di un modello denso molto più piccolo di quanto le loro dimensioni su disco lascino intendere. Quel divario è l'intera ragione per cui un modello da 2.4 trilioni di parametri può essere servito, ed è il motivo per cui lo stesso rapporto totale-attivo che sulla scheda sembra una nota a piè di pagina è il numero più rilevante a livello operativo. Questa pagina non vi affiancherà una cifra di token al secondo, perché nessuna velocità che potremmo dichiarare reggerebbe su due quantizzazioni diverse e uno stack di serving sconosciuto — il rapporto è il dato trasferibile, il throughput no.

Flash-Next aggiunge una seconda complicazione che va collocata qui anziché in una nota a piè di pagina. La sua tabella di embedding n-gram da 51B è una struttura di lookup, e la scheda stessa la inquadra affermando che gli embedding sono "più adatti all'offloading rispetto a Mixture-of-Experts". È questo che rende eseguibile un checkpoint di queste dimensioni con la tabella di embedding residente nella memoria host anziché fissata nella memoria dell'acceleratore — una scelta progettuale, non un'affermazione sulla tua macchina. La conseguenza pratica è che Flash-Next è più facile da far stare aggiungendo RAM di sistema che aggiungendo VRAM, il che è l'opposto di come si comporta un modello denso di pari dimensione memorizzata.

Dove si trova il fratello denso

Qwen3.8-27B è il controesempio rispetto al quale viene misurato il resto della generazione: 64 layer, una dimensione intermedia feed-forward di 17.408 elementi anziché una banca di esperti, 27B memorizzati e 27B attivi, Apache 2.0, e circa 55,6 GB di pesi BF16 che stanno su hardware che una persona possiede. Mentre i membri sparsi barattano lo spazio di archiviazione con un ridotto fabbisogno di calcolo per token, quello denso baratta il costo per token con la prevedibilità: ogni parametro è attivo, quindi memoria e velocità sono banali da dimensionare. La trattazione completa di quel modello, dei suoi formati e del suo adattamento appartiene alla Qwen3.8-27B pagina che ne è proprietaria; a questa pagina serve solo il contrasto.

Ciò che non è stabilito

Se i modelli Qwen3.8-Max e Qwen3.8-Flash serviti istanzino effettivamente gli stessi conteggi di esperti e lo stesso routing dei core scaricabili è cosa non verificata: il fornitore dichiara la derivazione e si ferma lì, quindi considera non confermato qualsiasi conteggio specifico di esperti per i modelli API. E l'ecosistema di quantizzazione aperto attorno a Flash-Next ha prodotto build che vanno da circa 1 bit alla precisione piena, senza alcun confronto controllato a basso numero di bit pubblicato su hardware identico: se devi scegliere una larghezza di bit, quella decisione tocca a te misurarla.

Disponibilità

I due modelli di cui è documentato il numero di esperti — Qwen3.8-2.4T-A95B e Qwen3.8-Flash-Next — sono artefatti da scaricare e ospitare. Nessuno dei due è presente oggi nel nostro elenco di modelli, e non esiste alcun id simile a essi, quindi questa pagina non formula alcuna dichiarazione di disponibilità su di essi né su alcun modello denominato "Qwen3.8-MoE": il nome descrive un'architettura, e nulla nel nostro catalogo è venduto con quel nome. Quelli che serviamo sono invece altri tre membri della stessa generazione, e un lettore la cui domanda riguardava l'architettura può chiamare uno qualsiasi di essi:

• qwen/qwen3.8-27b — quello denso, Apache-2.0, self-hostable; testo, immagini e video in input, contesto di 262.144 token, 0,33 $ per milione di token in input e 2,40 $ per milione in output secondo il listino pubblicato dal provider.

• qwen/qwen3.8-flash — il canale di produzione sparse derivato da Flash-Next; contesto di 1M token, $0,15 per milione di input e $0,47 per milione di output, con input in cache intorno a $0,018.

• qwen/qwen3.8-max — il core Max dietro un endpoint; contesto da 1M di token, $2,00 per milione di token in input e $6,00 per milione di token in output.

Tutti e tre si trovano dietro un unico endpoint compatibile con OpenAI, quindi eseguire la variante dense rispetto a quella sparse servita sul proprio traffico costa un cambio di model-id anziché un'integrazione. Quei prezzi sono il listino pubblicato del provider, passato senza alcun ricarico, ed è per questo che una variazione di prezzo del fornitore raggiunge il tuo endpoint lo stesso giorno.

La metà densa di quel confronto è anche la via di fuga sull'hardware, ed è quella che la maggior parte dei lettori di questa pagina finisce per imboccare. Qwen3.8-27B corrisponde a circa 55,6 GB di pesi BF16, 27B memorizzati e 27B attivi, Apache 2.0 — quindi è l'unico esponente di questa generazione di cui si possa calcolare il dimensionamento con una sola calcolatrice. I membri sparsi costano meno per token servito e sono più onerosi da possedere: circa 4,9 TB di pesi per il core Max, circa 360 GB per Flash-Next, entrambi richiedono un'infrastruttura da predisporre anziché da noleggiare. La pagina Qwen3.8-27B si occupa del dimensionamento, dei formati e delle questioni di licenza; questa pagina si ferma all'architettura.

Quindi la risposta dell'architettura cambia ciò che dovresti eseguire? Meno di quanto implichi la ricerca che ti ha portato qui. Se stai chiamando un modello, il risparmio dei membri sparsi è già incluso nel prezzo che applichiamo e la scelta è una questione di costo e qualità, non architetturale. Se ne stai scaricando uno, la risposta è che nessun modello Qwen 3.8 con 512 esperti entra in una workstation — quello che ci entra è il denso 27B, ed è la decisione che la notazione -A stava silenziosamente prendendo per te fin dall'inizio.

La metà dense di quel confronto è anche la via di fuga sull'hardware, ed è quella che la maggior parte dei lettori di questa pagina finisce per imboccare. Qwen3.8-27Bpesa circa 55,6 GB di pesi BF16, 27B memorizzati e 27B attivi, Apache 2.0 — quindi è l'unico membro di questa generazione di cui puoi calcolare l'ingombro con una sola calcolatrice.