Granite Switch 4.1 8B vs Qwen3-8B: Cosa succede quando l'altra parte non ha un successore

Cominciamo con un problema di denominazione, perché cambia ciò che questo articolo può onestamente essere. Quando cerchi il modello 8B nella più recente generazione Qwen di Alibaba non ne trovi uno: la linea Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, le varianti Flash, l'enorme mixture-of-experts 2.4T-A95B — semplicemente non include un membro dense da 8B. Lo slot da 8B nella famiglia Qwen è ancora occupato da Qwen3-8B, rilasciato il 27 aprile 2025: 8,2 miliardi di parametri, thinking e non-thinking ibridi in un unico modello, oltre 100 lingue e dialetti, 32.768 token di contesto nativo estendibili a 131.072 con YaRN. Quel modello ha sedici mesi e resta uno dei checkpoint open-weights più scaricati in assoluto. È il detentore in carica — e ciò che rende questa sfida degna di essere raccontata è che Granite Switch 4.1 8B, il checkpoint composto di IBM del 14 ottobre 2026, non si propone affatto di sostituirlo con un successore. Propone una forma diversa di modello nella stessa classe di parametri: un modello testuale 8B congelato con due adapter commutabili e un encoder vocale agganciato, che svolge tre compiti cambiando configurazione anziché un solo compito ragionando. Nessuno ha sostituito Qwen3-8B, e la domanda migliore è se qualcuno debba farlo.

Ad esso si contrappone Granite Switch 4.1 8B, il checkpoint composto di IBM del 14 ottobre 2026 — un Granite 4.1 8B congelato a 8.380.551.168 parametri, che porta due adattatori activated-LoRA commutabili e un encoder vocale da 470M, per un totale composto di 8.776.400.896, in aumento del 4,72%. Stessa classe di parametri, idea completamente diversa di che cosa sia un modello. Qwen3-8B è un unico stack denso che fa tutto ragionandoci sopra. Granite Switch 4.1 8B è uno stack che non fa nulla ragionando e tre cose commutando.

Lo slot 8B è vuoto, e questa è la vera storia

Vale la pena soffermarsi sull’assenza invece di considerarla una lacuna in questo confronto. Alibaba ha rilasciato la generazione Qwen3.8 con un modello dense da 27B, una variante Max, varianti Flash e una mixture-of-experts da 2,4 trilioni di parametri, e ha saltato la classe dimensionale che aveva reso la generazione precedente una scelta predefinita per il deployment su singola GPU. Ogni team che ha scelto Qwen3-8B perché stava su una sola scheda e poteva essere fine-tuned a basso costo ora si trova davanti a una gamma di successori che o raddoppia il requisito di memoria o cambia del tutto il problema del serving.

Questa è la vera decisione di cui parla questo articolo. Nessuno sceglie tra Qwen3-8B e Granite Switch 4.1 8B in base alla qualità — un incumbent vecchio di sedici mesi contro uno sfidante vecchio di due giorni senza alcuna valutazione indipendente non è un confronto sulla qualità, è un confronto sulla conoscenza. La questione è che cosa fai quando il tuo cavallo di battaglia non ha un successore della stessa dimensione, e le due risposte candidate sono "mantieni il cavallo di battaglia" e "cambia la forma".

Qwen3-8B: cosa permettono di ottenere sedici mesi di produzione

Qwen3-8B è un transformer causale denso con 36 layer, dimensione nascosta 4.096, attenzione grouped-query con 32 teste di query contro 8 teste KV, un intermedio da 12.288, RoPE theta 1e6, embedding non legati e un vocabolario di 151.936 token. Circa 8,2 miliardi di parametri, di cui circa 6,95 miliardi non di embedding. L'interruttore del thinking è un parametro — enable_thinking — e le impostazioni di generazione differiscono a seconda della modalità, con la scheda che avverte esplicitamente contro la decodifica greedy in modalità thinking perché causa looping.

Ciò che ha e che nessun nuovo checkpoint può vantare: sedici mesi di traffico di produzione altrui. Modalità di errore che qualcun altro ha già incontrato e documentato. Quantizzazioni, fine-tune, ricette LoRA e guide al deployment per ogni framework di serving che conta. Quasi dieci milioni di download dall'Hub e oltre duemila like, con alle spalle una discendenza instruct. Quando un modello è pubblico da così tanto tempo, l'ecosistema che gli si crea attorno è una parte genuina delle sue capacità, e nessuna data di rilascio può essere retrodatata per entrare a farne parte.

Granite Switch 4.1 8B: cosa offre una nuova forma

Il checkpoint di IBM è una composizione più che un modello, e le parti sono documentate in un manifest di build inserito nel repository accanto ai pesi. Base: Granite 4.1 8B, 40 layer, dimensione nascosta 4.096, 32 head di query contro 8 head KV, finestra di 131.072 token, vocabolario di 100.352 token. Adapter: guardian-core, rango 16, alpha 64, sulle proiezioni di attenzione (k_proj, o_proj, q_proj, v_proj), che rileva danni, jailbreak, volgarità, violenza, contenuti sessuali, bias sociali e comportamenti non etici; e decision, rango 64, alpha 128, su tutte e sette le proiezioni incluso l'MLP, restituendo una softmax calibrata sui token di opzione etichettati in un singolo forward pass. Encoder: Granite Speech 5.0 TurboCTC, 470M parametri, conformer CTC non autoregressivo, inglese. Licenza: Apache-2.0, come Qwen3-8B.

La capacità che non ha un equivalente in Qwen3-8B è l'adattatore decisionale. Gli si passa uno stato e una domanda con opzioni etichettate e restituisce una distribuzione, non una risposta — la chiamata documentata chiede a vLLM i logprobs esattamente degli id dei token delle etichette tramite logprob_token_ids e ne calcola l'esponenziale, producendo un output con una forma del tipo A: 0.982, B: 0.0035, C: 0.014. Puoi chiedere a Qwen3-8B di scegliere un'etichetta e lo farà, in modo competente, e otterrai una lettera. Una lettera non può essere usata con una soglia come punteggio calibrato, né mediata sui turni, né registrata come valore di confidenza. Questa è la differenza, e non è una differenza che la scala possa risolvere.

La seconda cosa che la composizione offre è l'aritmetica. Ogni adattatore condivide la cache chiave/valore del modello di base invece di mantenerne una propria, quindi passare da zero adattatori a due più un encoder vocale costa il 4,72% in parametri anziché un nuovo stato di attenzione per ogni capacità. Il post di lancio di IBM sostiene che il modello composto occupi all'incirca la stessa VRAM del modello di base da solo; quell'affermazione specifica non è stata riprodotta, ma il delta di parametri su cui si basa è proprio lì nel manifest. Ecco anche perché il post di lancio può descrivere una gara tra un Granite Switch composto da 30B e un modello decisionale da 27B come un vantaggio in velocità anziché una penalità di memoria.

• Parametri — 8,78B composti (8,38B base) vs 8,2B.

• Livelli — 40 vs 36.

• Contesto — 131.072 nativo vs 32.768 nativo, 131.072 con YaRN.

• Vocabolario — 100.355 contro 151.936.

• Lingue — dodici denominate (inglese, tedesco, spagnolo, francese, giapponese, portoghese, arabo, ceco, italiano, coreano, olandese, cinese) contro oltre 100.

• Ragionamento — nessuno vs pensiero ibrido e non pensante in un unico checkpoint.

• Output strutturato — softmax calibrato sui token di etichetta rispetto alla scelta guidata dal prompt.

• Ingresso audio — encoder ASR integrato da 470M rispetto a nessuno.

• Ecosistema — due giorni di vita, nessuna quantizzazione o fine-tuning di cui parlare rispetto a sedici mesi di lavoro della comunità.

Dove Qwen3-8B vince ancora

Le lingue, senza mezzi termini. Dodici lingue denominate contro più di un centinaio non è un errore di arrotondamento per chiunque distribuisca a un pubblico globale, ed è la prima cosa che un test di migrazione rileverà. Il vocabolario racconta la stessa storia: 151.936 token contro 100.355, con i tre ID adattatore riservati di Granite che lo arrotondano a 100.355. Un modello addestrato su cento lingue è stato addestrato su cento lingue.

Il contesto nativo è il secondo. 131.072 token fin da subito contro 32.768 con un percorso di estensione YaRN. Granite Switch 4.1 8B arriva per caso agli stessi 131K, ma ci arriva in modo nativo, e l'estensione YaRN ha un costo nel comportamento in contesti lunghi che una finestra nativa non ha.

Il terzo è quello che decide la maggior parte delle migrazioni reali: non c'è nulla di rotto. Non c'è un'integrazione da riscrivere, nessuno stack di serving da cambiare, nessun comportamento da reimparare. Ogni modalità di errore è stata mappata da qualcun altro, e i fine-tune che potresti già avere sono tuoi. Uno sfidante deve essere sensibilmente migliore perché valga la pena rinunciare a ciò che si ha, e a due giorni di vita senza una valutazione indipendente, Granite Switch 4.1 8B non ha dimostrato di esserlo.

Dove Granite Switch 4.1 8B vince

Punteggio decisionale, e l'assetto operativo che ne consegue. Se la tua applicazione necessita di un valore di confidenza su opzioni etichettate — instradare un ticket, assegnare un punteggio a una soglia di escalation, scegliere uno strumento con un numero associato — questa è una primitiva che Qwen3-8B non fornisce, e il prompting non ne genera una. La cifra pubblicata per questo adapter è il Decision Index, edizione v0.3 public fast subset di 1.068 righe: 42,9 complessivo, con Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 e Arts 18,0. IBM l'ha eseguito, IBM l'ha pubblicato, nessuno l'ha riprodotto, e la scheda stessa dice che le probabilità sono un prior piuttosto che una classificazione certificata su domini per i quali l'adapter non è stato addestrato.

Il consolidamento degli endpoint è il secondo. Chat, decisioni e trascrizione su un unico endpoint, con la trascrizione attivata da una normale parte di contenuto di tipo input_audio anziché da un secondo servizio. Le avvertenze della scheda di IBM si applicano e vale la pena ripeterle fedelmente nello spirito: solo inglese, output in minuscolo e senza punteggiatura, e l'encoder vocale e l'LLM non sono addestrati congiuntamente, quindi una trascrizione errata può cambiare silenziosamente ciò a cui il modello risponde.

E la composabilità è la terza — il composer è pubblico, il catalogo degli adattatori è aperto e puoi creare la tua variante invece di accettare la scelta di IBM di due adattatori.

Cosa fare mentre lo slot 8B è vuoto

La mossa produttiva non è migrare. È trattare Granite Switch 4.1 8B come candidato per le richieste specifiche che Qwen3-8B gestisce male — quelle che terminano con un valore di confidenza, o che arrivano come audio — e lasciare tutto il resto dov'è. Questo è un problema di routing, non una riscrittura: invia le chiamate di tipo decisionale da una parte e il traffico conversazionale dall'altra, e mantieni intatto il percorso di fallback mentre scopri se la nuova forma regge davvero sul tuo traffico.

Questo è il livello che OrcaRouter occupa, e vale la pena essere precisi su cosa significhi qui: Qwen3-8B non è oggi nel nostro catalogo e non lo è nemmeno Granite Switch 4.1 8B, quindi non siamo un modo per ottenere né l'uno né l'altro — Qwen3-8B è un download da Hugging Face e Granite Switch 4.1 8B è un download da Hugging Face più un container vLLM. Ciò che fa la piattaforma è il lavoro che c'è intorno: una chiave API per oltre 200 modelli ospitati, failover automatico così un candidato può stare in un percorso attivo senza essere un singolo punto di guasto, il DSL di routing per comporre più modelli in un'unica chiamata, e prezzo di listino del provider passato con markup 0% così una riduzione di prezzo del fornitore è attiva lo stesso giorno invece che al successivo aggiornamento. Se vuoi vedere come appare un Qwen di generazione attuale su un endpoint ospitato mentre valuti questo, Qwen3.8-27B è nel catalogo ed è della stessa famiglia del modello attuale in questo confronto.

Il risultato finale

Mantieni Qwen3-8B come impostazione predefinita. Sedici mesi di produzione, più di cento lingue e un vocabolario di 151.936 token non sono vantaggi che un checkpoint di due giorni riesce a colmare con la sola architettura, e il fatto che Alibaba non abbia pubblicato un successore da 8B non rende Granite Switch 4.1 8B quel successore — lo rende uno strumento diverso che per caso finisce nella stessa classe di memoria. Adottalo in modo ristretto e specifico: per le richieste che richiedono una distribuzione calibrata su opzioni etichettate, per lo screening di sicurezza in linea e per l'audio sullo stesso endpoint della chat. Mettilo alla prova sul tuo set di etichette prima di fidarti di 42,9, perché quel numero è di IBM e soltanto di IBM. La cosa interessante di questo confronto non è che un modello batte l'altro — è che lo slot da 8B è rimasto vuoto, e il modello che lo occuperà in seguito potrebbe non essere affatto un 8B denso.