Granite Switch 4.1 8B vs Gemma 4 12B: Specialisti compositi o un unico modello unificato?

Chiedi a due laboratori come costruire un modello in grado di sostenere una conversazione, leggere uno screenshot e trascrivere una nota vocale, e ottieni risposte opposte. Granite Switch 4.1 8B, rilasciato da IBM il 14 ottobre 2026, mantiene un modello di testo 8B congelato e vi aggancia piccoli adattatori commutabili, così il verificatore di sicurezza, il motore decisionale e il riconoscitore vocale sono tutti componenti aggiuntivi su un unico backbone condiviso. Gemma 4 12B, pubblicato da Google il 23 maggio 2026, fa l'opposto: un unico modello da 11,95 miliardi di parametri addestrato fin dall'inizio su testo, immagini e audio, senza alcun encoder separato da collegare. Entrambi sono Apache-2.0, entrambi girano su una singola GPU e sono in disaccordo su quasi tutto ciò che sta sotto.

La versione pratica, prima del dettaglio: Gemma 4 12B è la scelta matura per qualsiasi cosa che debba vedere, perché è pubblico da cinque mesi, ha una base installata davvero ampia e il suo percorso multimodale è addestrato anziché assemblato. Granite Switch 4.1 8B è la scelta interessante per qualsiasi cosa che debba decidere o eseguire un solo endpoint invece di tre, ed è disponibile da due giorni con zero valutazioni indipendenti. Non sono verdetti contrapposti — sono risposte a domande diverse, e il resto di questo articolo è il dettaglio che ti permette di capire quale domanda hai davvero.

La divisione architetturale, detta chiaramente

Granite Switch 4.1 8B è una composizione. La base è Granite 4.1 8B — 40 livelli, dimensione nascosta 4.096, 32 teste di query contro 8 teste KV, una finestra di 131.072 token, un vocabolario di 100.352 token che i due adattatori estendono di esattamente tre id riservati. Al di sopra si trovano due adattatori LoRA attivati, guardian-core a rango 16 sulle proiezioni di attenzione e decision a rango 64 su tutte e sette, più Granite Speech 5.0 TurboCTC, un encoder conformer non autoregressivo da 470M di parametri, per l'input audio. Totale: 8.776.400.896 parametri contro gli 8.380.551.168 della base — un aumento del 4,72% per due adattatori e un modello vocale.

Gemma 4 12B è un unico stack. La configurazione lo chiama gemma4_unified, e il nome è letterale: immagine, audio e video hanno tutti i propri token id all'interno di un unico vocabolario da 262.144 token, e la scheda descrive l'architettura come encoder-free, cioè non esiste una torre di visione separata né una torre audio che alimenta una proiezione nel modello linguistico. Alterna l'attenzione locale a finestra scorrevole su una finestra di 1.024 token con l'attenzione globale completa, usa p-RoPE per la posizione e si estende fino a un contesto di 256K. Apache-2.0, come Granite.

• Parametri — Granite Switch 4.1 8B: 8,78B composti (8,38B di base). Gemma 4 12B: 11,95B.

• Contesto — 131.072 token vs 256.000 token.

• Vocabolario — 100.355 vs 262.144, con quelli di Gemma riservati ai token per immagini, audio e video.

• Modalità in — testo e audio vs testo, immagine, audio e video.

• Modalità escluse — solo testo vs solo testo.

• Teste specializzate — una distribuzione decisionale calibrata e un classificatore di sicurezza rispetto a nessuna; Gemma risponde, non assegna punteggi alle etichette delle opzioni.

• Licenza — Apache-2.0 entrambe.

Dove Gemma 4 12B vince nettamente

La visione non è nemmeno lontanamente paragonabile. Gemma 4 12B legge le immagini in modo nativo; Granite Switch 4.1 8B non ha alcun percorso per le immagini. Se la tua pipeline acquisisce screenshot, PDF, grafici o catture di UI, il confronto finisce qui: nessuna dose di ingegnosità negli adapter può sostituire una modalità che il checkpoint non accetta.

Il track record è il secondo. Gemma 4 12B è presente sull'Hub dal 23 maggio 2026 e il suo fratello instruct ha superato 1,6 milioni di download; il solo checkpoint base ha passato i 79.000. Entrambi i numeri sono conteggi di download dall'Hub e non dati di utilizzo, quindi sovrastimano il deployment reale, ma la direzione è inequivocabile: c'è un ampio gruppo di persone che ha già incontrato le sue modalità di fallimento e ne ha scritto. Granite Switch 4.1 8B, al momento in cui scrivo, ha due giorni di vita con qualche decina di download e una manciata di like. Cinque mesi di segnalazioni di bug pubbliche sono un asset che non puoi comprare, ed è il singolo argomento più forte a favore di Gemma su un percorso di produzione in questo trimestre.

La lunghezza del contesto è la terza, ed è quella silenziosa. 256K contro 131,072 non è una differenza di marketing quando dai in pasto documenti lunghi. Nessuno dei due modelli ha bisogno di una soluzione alternativa per un carico di lavoro di chat tipico, ma solo uno di essi reggerà un contesto su scala di repository senza sharding.

Dove Granite Switch 4.1 8B vince nettamente

L'adattatore decisionale è una capacità che l'altro modello semplicemente non possiede. Forniscigli uno stato e una domanda con opzioni etichettate e restituisce un softmax calibrato su quelle etichette in un singolo forward pass — la chiamata documentata chiede a vLLM i logprobs esattamente degli id dei token delle etichette e li esponenenzia, producendo un output nella forma A: 0.982, B: 0.0035, C: 0.014. Un modello general-purpose può essere indotto con un prompt a scegliere un'etichetta, ma il prompting produce un token, non una distribuzione che puoi sottoporre a soglia, confrontare tra turni o registrare come punteggio calibrato. Per logica di routing, triage, soglie di escalation e qualunque cosa richieda un valore di confidenza anziché una risposta, si tratta di una classe di output diversa.

La consolidazione su un singolo endpoint è la seconda. La trascrizione vocale gira sullo stesso endpoint di chat e decisioni; si invia una input_audio come parte di contenuto su un normale completamento chat e l'encoder da 470M la trascrive prima di inserire il testo nel contesto. Nessun secondo server, nessun livello di orchestrazione, nessuna bolletta ASR separata. Anche Gemma 4 12B accetta l'audio, quindi non si tratta di un divario di capacità — è una differenza nella forma di distribuzione, e conta solo se altrimenti si sarebbe dovuto eseguire un servizio vocale separato accanto all'LLM.

L'ingombro è il terzo. 8,78 miliardi contro 11,95 miliardi rappresentano circa un quarto in meno di peso da mantenere, e l'architettura shared-KV-cache fa sì che gli adattatori non portino ciascuno il proprio stato di attenzione. IBM sostiene che il modello composto occupi più o meno la stessa VRAM del modello base da solo; tale specifica affermazione non è stata riprodotta, ma il delta di parametri del 4,72% che ne sta alla base è un fatto ricavato dal manifest di build.

Le due affermazioni sul fronte Granite che non sono ancora fatti

Il numero pubblicato di Decision Index per l'adattatore decisionale è 42,9 nel complesso sul sottoinsieme pubblico veloce edition-v0.3 di 1.068 righe, con punteggi per area di Conoscenza 29,1, Linguaggio 48,9, Recupero 49,8, Strumenti 59,8 e Arti 18,0. IBM ha eseguito quella valutazione e IBM l'ha pubblicata. Nessun altro l'ha riprodotta, e non esiste affatto alcuna voce di classifica di terze parti per Granite Switch. Leggi anche la forma: un 59,8 su Strumenti accanto a un 18,0 su Arti è un profilo specialistico, non un punteggio di competenza generale, e la scheda dice esplicitamente di trattare le probabilità delle opzioni come un prior anziché come una classificazione certificata sui domini per i quali l'adattatore non è stato addestrato.

Il secondo è il percorso vocale, ed è l'affermazione che più facilmente si tende a sovrainterpretare. L'encoder è solo in inglese, il suo output è in minuscolo e senza punteggiatura, e — per usare le parole di IBM nella model card — l'encoder vocale e l'LLM non sono addestrati congiuntamente; non esiste alcuna proiezione addestrata che li accoppi. Il percorso audio di Gemma 4 12B è stato addestrato come parte del modello. Questa è la vera differenza, e sopravvive a tutto il discorso sul consolidamento degli endpoint: un sistema ha un accoppiamento addestrato tra suono e significato, l'altro ha una trascrizione inserita in un prompt da un componente che non è mai stato ottimizzato per lavorare con ciò che la legge.

Eseguendoli affiancati

Entrambi i checkpoint sono scaricabili, entrambi sono Apache-2.0, e l'inquadramento onesto è che appartengono a slot diversi piuttosto che a un confronto diretto. Gemma 4 12B è ciò a cui ricorri quando l'input include pixel. Granite Switch 4.1 8B è ciò a cui ricorri quando l'output deve essere una probabilità, o quando vuoi un unico endpoint che faccia chat, decisioni e trascrizione e sei disposto ad accettare che la metà della trascrizione sia una giunzione anziché un percorso addestrato.

Se stai confrontando i due, fallo senza rifare l'infrastruttura del tuo stack. OrcaRouter espone oltre 200 modelli dietro un'unica chiave API con failover automatico e trasmette il prezzo di listino del provider con 0% di ricarico, così una variazione di prezzo lato provider arriva qui lo stesso giorno invece che al successivo aggiornamento del catalogo. img src="4.png" alt="Uno screenshot della pagina del modello OrcaRouter per Gemma 4 26B A4B, che mostra il modello etichettato Vision, Tools, JSON e Reasoning con un contesto di 262K token, input testuale, immagini e video, una data di rilascio Google del 2026-04-03, un prezzo per milione di token di $0.06 in input e $0.33 in output, un tempo p50 al primo token di 2.74 secondi, e un testo introduttivo che descrive Gemma 4 26B A4B IT come un modello mixture-of-experts instruction-tuned con 25.2B parametri totali di cui 3.8B attivati per token." /> Nessuno di questi due checkpoint è oggi nel nostro catalogo, e non abbiamo intenzione di far finta del contrario — Granite Switch è un download da Hugging Face e un container vLLM, Gemma 4 12B è lo stesso. Il senso di mettere un candidato dietro un'unica chiave è che, quando diventerà disponibile, confrontarlo con l'incumbent sul tuo traffico costa una stringa di modello, non una migrazione. Considera alcuni dei modelli che serviamo, come Gemma 4 26B A4B, come ponte: è della stessa famiglia del modello che stai valutando, su un endpoint ospitato, oggi.

Quale, per chi

Scegli Gemma 4 12B se il tuo carico di lavoro contiene pixel, se il contesto da 256K è portante, o se devi rilasciare questo trimestre e vuoi cinque mesi di errori altrui tra te e la produzione. Scegli Granite Switch 4.1 8B se ti serve una distribuzione calibrata su opzioni etichettate anziché una risposta, se far confluire chat, decisioni e voce su un unico endpoint elimina un servizio dalla tua architettura, o se sei il tipo di team che vuole leggere il manifest di build e comporre la propria variante — il composer è pubblico e il catalogo degli adapter è aperto.

Non scegliere Granite Switch 4.1 8B per la visione. Non ne ha alcuna. E non scegliere nessuno dei due in base a un numero di benchmark che non hai eseguito tu stesso, perché l'unico punteggio decisionale in questo confronto è riportato dal fornitore e non ha un secondo parere a sostenerlo — il che è un'affermazione sullo stato delle prove, non sul modello.