ZwZ2-4B vs Qwen3.8-27B: uno specialista da 4.5B incontra il flagship da 28B di Qwen

Supponiamo che la tua pipeline di immagini esegua 200.000 query al giorno e che tu abbia una sola scheda da 16 GB. Questo singolo vincolo esclude Qwen3.8-27B prima ancora di discutere qualsiasi benchmark: con 28 miliardi di parametri, solo i pesi BF16 occupano circa 56 GB, e nessuna quantità di serving ingegnoso può farli stare su 16 GB senza una quantizzazione per cui non hai previsto budget. ZwZ2-4B, con 4,54 miliardi di parametri e un file di pesi da 9,08 GB, entra. Quindi la domanda onesta non è quale modello sia migliore. È se la capacità più limitata del checkpoint piccolo rappresenti un vero vincolo per il tuo carico di lavoro, o se stavi per pagare un modello di punta per rispondere a domande su ritagli di foto di prodotti.

C'è una particolarità che rende questo confronto più strano di quanto suggerisca lo slug. La generazione 3.8 di Qwen non ha mai rilasciato un modello in questa classe di dimensioni. I suoi membri sono il modello dense da 27B del 5 agosto 2026, un mixture-of-experts da 2,4 trilioni di parametri dell'8 agosto e Flash-Next il 24 agosto — che, nonostante il nome, è un modello da 180 miliardi di parametri su una famiglia architetturale diversa. Nessun modello dense sotto i 27B. Quindi, per ZwZ2-4B, il vero avversario di pari dimensioni è Qwen3.5-4B, il checkpoint di febbraio da cui è stato fine-tuned. Qwen3.8-27B entra in questo confronto come tetto, non come pari.

Non esiste alcun benchmark su cui questi due possano incontrarsi.

Parti da ciò che rende disoneste la maggior parte delle pagine di confronto. Qwen3.8-27B ha valutazioni pubblicate e un ecosistema; ZwZ2-4B ha 25 risultati di benchmark che esistono solo nella sua model card, prodotti dal laboratorio che l'ha addestrato, senza alcuna replica indipendente da nessuna parte. Non puoi mettere un 54.79 riportato dal fornitore accanto a una suite di benchmark di un altro laboratorio e sottrarli. I due numeri non sono stati prodotti sugli stessi task, alla stessa risoluzione, con lo stesso harness.

Quindi questo articolo non li mette in competizione tra loro. Confronta ciò che ciascuno è progettato per fare, quanto costa far funzionare ciascuno e a cosa rinuncia quello più piccolo. Dove compare un numero, è indicato chi lo ha prodotto.

Il divario, dimensione per dimensione

• Parametri — ZwZ2-4B 4.539.265.536 vs Qwen3.8-27B 28B sulla sua scheda

• Pesi su disco — circa 9,08 GB BF16 rispetto a circa 56 GB BF16

• Profondità — 32 livelli vs 64

• Larghezza — dimensione nascosta 2.560 vs 5.120

• Forma dell'attenzione — 16 teste query rispetto a 4 teste KV con dimensione della testa 256, in entrambi

• Programma di attenzione — un rapporto 3:1 tra lineare e completo in entrambi

• Finestra di contesto — 262.144 posizioni in entrambi

• Vocabolario — 248.320 token in entrambi

• Vision tower — 24 strati con dimensione nascosta 1.024 rispetto a 27 strati con dimensione nascosta 1.152

• Licenza — nessuna dichiarata per ZwZ2-4B vs Apache-2.0 per Qwen3.8-27B

Le quattro righe corrispondenti sono quelle interessanti. Entrambi i modelli ereditano lo stesso identificatore di architettura, qwen3_5, con la stessa geometria di attenzione e lo stesso limite di contesto. La generazione 3.8 non ha riprogettato lo stack; lo ha scalato. Ecco perché la configurazione del 4B sembra una miniatura di quella del 27B anziché un oggetto estraneo, ed è anche il motivo per cui il 4B eredita le caratteristiche di erogazione del 27B — i layer di attenzione lineare sono ciò che rende sostenibile un contesto da 262K a queste dimensioni.

L'unico dato realmente confrontabile dell'intero confronto

La scheda di ZwZ2-4B riporta il suo modello base a 49,41 e se stesso a 54,79 su 25 benchmark, un guadagno di 5,38 punti. Si tratta di un confronto tra due checkpoint addestrati e misurati con la stessa procedura, sugli stessi compiti, dallo stesso laboratorio. È comunque un dato dichiarato dal fornitore, e la selezione dei benchmark è del laboratorio, ma almeno i due termini della sottrazione sono comparabili.

Ne conseguono due cose. Primo, il guadagno è reale solo nel senso che il laboratorio lo ha misurato; nessuno ha riprodotto il 54,79. Secondo, e cosa più utile, la baseline è un modello forte. Qwen3.5-4B totalizza 7,4 milioni di download al mese e conta 1.145 like — è un checkpoint ampiamente distribuito, con un ecosistema reale. Se ZwZ2-4B è migliore di 5,38 punti su compiti a forte componente percettiva, si tratta di un delta significativo rispetto a un modello che le persone usano davvero. Se è migliore di 5,38 punti su benchmark scelti per premiare esattamente ciò per cui è stato addestrato, il delta in produzione sarà più piccolo.

Il metodo spiega quale lettura sia più probabile. ZwZ2 è stato addestrato con GRPO su domande a scelta multipla con quattro opzioni, costruite da ritagli di regioni di SA-1B — circa 20.000 — senza alcuna fase di fine-tuning supervisionato. Ogni segnale di addestramento che il modello abbia mai visto era una scelta a quattro opzioni sul fatto che una regione contenga l'evidenza necessaria a una domanda. È con un carico di lavoro di quella forma che il 5.38 dovrebbe reggere. La descrizione a risposta aperta non ha quella forma.

Cosa ti dà un flagship da 28B che un 4.5B non può darti

Qwen3.8-27B è un modello visione-linguaggio generalista: immagini, video, controllo flessibile del ragionamento, licenza Apache-2.0 e abbastanza capacità parametrica da aver assorbito un'ampia dieta di pre-addestramento anziché un curriculum sintetico ristretto e di alta qualità. Il suo numero di download — 7,5 milioni il mese scorso, con 18.500 like — è il segnale dell'ecosistema che conta quando si sceglie un backbone anziché uno specialista. Per esso esistono adapter, quantizzazioni, varianti fine-tuned e strumenti, che non esistono per un checkpoint con zero download.

L'ampiezza emerge nelle modalità di errore. La scheda di ZwZ2-4B elenca allucinazioni, testo letto in modo errato, errori di conteggio ed errori spaziali, e osserva che i risultati dipendono dalla risoluzione dell'immagine, dalla lunghezza del contesto e dal formato del prompt. Un modello generalista da 28B presenta in linea di principio le stesse classi di errore, ma con una maggiore capacità di mantenere i dettagli su un contesto più lungo e senza il requisito che il compito somigli a una scelta tra quattro opzioni.

Per l'estrazione di documenti, il ragionamento su più pagine, i video o qualsiasi cosa in cui la risposta sia un paragrafo anziché una regione, il 27B è lo strumento migliore e la differenza di dimensioni non è il fattore decisivo — lo è l'obiettivo di addestramento.

L'aritmetica dei costi, con prezzi reali

Qui il confronto smette di essere astratto. Su OrcaRouter, qwen/qwen3.8-27b viene servito a 0,33 $ per milione di token in input e 2,40 $ per milione in output, con una finestra di contesto di 262K. Prendi una tipica query con immagine da 1.500 token in input e 300 token in output. Mille di queste costano circa 1,22 $ sul 27B. Il più leggero qwen/qwen3.8-flash, a 0,15 $ e 0,47 $, si attesta intorno a 0,37 $ per le stesse mille. Un modello vision 8B ospitato si colloca tra i due.

ZwZ2-4B non ha un prezzo per token perché non dispone di un endpoint ospitato — la pagina di Hugging Face indica che nessun provider lo serve. Il suo costo è pari al costo delle tue ore GPU diviso per il throughput, ed è l'unica opzione in questo confronto che gira su una singola scheda da 16 GB. Questo è l'intero argomento economico a favore del modello più piccolo, ed è un argomento forte se stai già pagando per l'hardware.

Un punto strutturale sul routing, dato che influisce su come lo verifichi. OrcaRouter applica i prezzi di listino dei provider senza alcun ricarico, allo 0% di markup, quindi quando Qwen cambia il prezzo di un modello Qwen ospitato, il numero sopra cambia lo stesso giorno anziché al successivo rinnovo contrattuale. Eseguire un confronto dei costi tra un checkpoint self-hosted e un modello ospitato è onesto solo se il lato ospitato riflette il prezzo di listino odierno, e questa è la proprietà descritta qui — non uno sconto.

Dove il modello piccolo vince anche contro un'ammiraglia

Tre casi, e sono più limitati di quanto il marketing sui modelli piccoli di solito lasci intendere.

Il primo è il controllo del deployment. Un file BF16 da 9,08 GB può essere fissato, versionato e distribuito su un edge box. Un file da 56 GB non può esserlo, e un'API ospitata non ti fornisce né i pesi né una garanzia sulla versione. Se il vincolo del tuo prodotto è "il modello viaggia con il dispositivo", il 27B non è un candidato a nessun prezzo.

Il secondo è la prevedibilità dei costi in volumi elevati. L'inferenza self-hosted ha una curva di costo piatta e nessun contatore per token. Con 200.000 richieste di immagini al giorno, $1,22 per mille equivalgono a circa $244 al giorno — circa $7.300 al mese — sul 27B a prezzo di listino. Se il self-hosting riesca a battere questa cifra dipende interamente dall'utilizzo, e una singola scheda sottoutilizzata spesso non ci riesce.

Il terzo è la specializzazione del compito. Se il tuo carico di lavoro è davvero «quale di queste quattro regioni contiene l'evidenza», ZwZ2-4B è stato addestrato esattamente su quella forma, con una fase di filtraggio progettata per rimuovere le domande a cui si può rispondere senza la regione. Un generalista spende capacità su tutto il resto. Questo è il caso in cui un checkpoint da 4,5B può battere uno da 28B, ed è l'unico caso in cui l'affermazione del fornitore relativa ai 5,38 punti significherebbe ciò che un lettore spera che significhi.

Come decidere, nell’ordine in cui la decisione avviene realmente

• Se i pesi devono risiedere su hardware che controlli e l'hardware è piccolo — scegli ZwZ2-4B, accetta l'ambiguità della licenza e prevedi un budget per la tua valutazione.

• Se il task è a scelta multipla basata sulla regione o recupero di evidenze visive — prova ZwZ2-4B contro Qwen3.5-4B sui tuoi dati prima di guardare il 5.38 della scheda. Quel delta, riprodotto, è l'unico numero che conta.

• Se ti servono video, documenti lunghi, descrizioni aperte o una licenza che il tuo team legale firmerà — scegli Qwen3.8-27B e smetti di leggere.

• Se non hai hardware e nessuna voglia di gestire l'erogazione del servizio, scegli la via di Qwen in versione ospitata, perché l'alternativa è un progetto operativo, non una scelta di modello.

La parte scomoda di questo confronto è che il confronto interessante non è quello nel titolo. ZwZ2-4B contro Qwen3.8-27B è una decisione sulla classe di deployment mascherata da confronto tra modelli. Il vero testa a testa — stessa base, stessa dimensione, stesso costo di serving, un divario misurato di 5,38 punti — è ZwZ2-4B contro Qwen3.5-4B, ed è l'esperimento che vale la pena eseguire sulle tue immagini prima che uno qualunque di questi numeri cambi la tua architettura.