Claude Haiku 5.5 vs Gemma 4 12B: un modello con pesi che puoi tenere in mano contro un'API di un fornitore

Claude Haiku 5.5 e G​emma 4 12B non competono davvero per lo stesso posto, e il modo più rapido per vederlo è una singola riga: uno dei due viene distribuito come pesi Apache-2.0 che puoi scaricare, quantizzare ed eseguire sul tuo hardware, e l'altro esiste solo dietro un'API. Claude Haiku 5.5 è arrivato il 7 ottobre 2026 e ha immediatamente ridefinito ciò che un tier piccolo può ottenere — 43 sull'indipendente Artificial Analysis Intelligence Index. G​emma 4 12B si trova a 14 sulla stessa classifica. Quel divario è enorme, e non è il motivo per cui la maggior parte dei team finisce per scegliere tra i due.

La scelta è di solito obbligata prima che venga consultato qualsiasi benchmark: una pipeline regolamentata che non può inviare token a un fornitore, un edge box senza una connettività in uscita affidabile, un budget di latenza misurato in millisecondi, o un requisito di fine-tuning che un'API chiusa non soddisferà mai. Se nessuno di questi casi ti riguarda, la risposta non è affatto incerta. Se invece uno ti riguarda, il divario di punteggio smette di contare e il vincolo di deployment decide tutto.

Che cosa ha misurato il consiglio, e quando

I dati indipendenti riportati di seguito provengono da Artificial Analysis, mentre le tariffe dei fornitori provengono dalla documentazione ufficiale di Anthropic e Google. Sono due tipi diversi di numeri e sono etichettati come tali in tutto il documento.

• Punteggio indipendente — Claude Haiku 5.5 a 43 sull'Intelligence Index, secondo di 182 modelli. G​emma 4 12B (Reasoning) a 14, 21º di 142 nella sua classe. Un divario di 29 punti.

• Prezzo di input per milione di token — Claude Haiku 5.5 0,10 $ fino a 100.000 token e 0,50 $ oltre; G​emma 4 12B 0,10 $.

Prezzo di output per milione di token — Claude Haiku 5.5 0,50 $ fino a 100.000 token e 2,50 $ oltre; G​emma 4 12B 0,30 $.

• Finestra di contesto — 1.000.000 di token per Claude Haiku 5.5; 262.000 per G​emma 4 12B.

• Throughput — 240,4 token di output al secondo per Claude Haiku 5.5; 113,1 per Gemma 4 12B, con un tempo al primo token di 2,48 secondi.

• Costo per ogni attività Index completata — 0,21 $ per Claude Haiku 5.5. Gemma 4 12B è abbastanza economico per token che la cifra combinata della classifica si attesta a 0,12 $ per milione di token, ma il costo derivato per attività non è il numero che dovrebbe decidere questo confronto.

• Pesi — Apache 2.0 per Gemma 4 12B, scaricabili, densi con circa 12 miliardi di parametri. Claude Haiku 5.5 è proprietario; non esistono pesi e non ne è previsto alcuno.

• Età — G​emma 4 12B è disponibile da giugno 2026. Claude Haiku 5.5 ha due giorni al momento in cui scriviamo.

Il divario è di 29 punti, e il divario di prezzo è quasi nullo

Guarda di nuovo le due righe di prezzo: $0,10 in input per entrambi, e $0,30 contro $0,50 in output. G​emma 4 12B costa meno, e la differenza è così piccola da essere sovrastata dal conteggio dei token — il tokenizer più recente di Claude Haiku 5.5 fa sì che lo stesso testo produca circa il 30% di token in più, quindi un vantaggio grezzo del 40% sulla tariffa di output da parte di G​emma è più vicino a un pareggio su una fattura reale.

Quindi stai pagando quasi la stessa tariffa per un modello che è 29 punti Index dietro, oppure stai pagando quasi la stessa tariffa per un modello che è 29 punti Index avanti, a seconda di quale colonna leggi per prima. Questa è la descrizione onesta e va detta chiaramente: su qualsiasi attività che entrambi i modelli siano in grado di svolgere, Claude Haiku 5.5 è l'acquisto migliore al prezzo di listino, ed è migliore di un margine che nessuna quantità di prompt engineering sul modello più piccolo potrà colmare.

La domanda interessante, quindi, non è "quale sia migliore". È "quali dei compiti nella mia coda non riesce a svolgere G​emma 4 12B", e la risposta a questa è l'unica cosa che decide il confronto.

Cosa ti danno dei pesi che un'API non può darti

Un modello scaricato è un tipo diverso di risorsa, e i vantaggi sono strutturali anziché incrementali.

Confine dei dati — con Gemma 4 12B non c'è alcun fornitore coinvolto. Per carichi di lavoro sanitari, legali, della difesa o finanziari, spesso è l'unico requisito che conta, e nessun punteggio può rendere accettabile un'API.

• Costo fisso invece che variabile — un modello denso da 12B quantizzato a quattro bit entra comodamente in un singolo acceleratore moderno. A quel punto il costo marginale per token è l'elettricità, e un carico di lavoro può essere dimensionato rispetto a una macchina anziché a un contatore.

• Nessun traffico in uscita, nessuna latenza di rete — un modello 12B on-premises risponde in millisecondi perché nulla lascia la macchina. Un'API di un fornitore paga un round trip e una coda di avvio a freddo che un deployment edge semplicemente non ha.

• Fine-tuning e distillazione — puoi adattare G​emma 4 12B sui tuoi dati, distribuire l'adattatore e congelarlo. Che A​nthropic ti permetterà mai di fare fine-tuning su un modello di fascia Haiku non è qualcosa su cui puoi pianificare una roadmap.

• Una base sotto la tua roadmap — i pesi non possono essere deprecati sotto i tuoi piedi. A​nthropic si è impegnata a non ritirare Claude Haiku 5.5 prima del 7 ottobre 2027, il che è generoso, ma un impegno con una data è pur sempre un impegno con una data.

• Modalità, stranamente — la scheda registra che Gemma 4 12B accetta in input testo, immagini, parlato e video per l'output testuale, il che è un'acquisizione più ampia rispetto a testo e immagini di Claude Haiku 5.5. Per una pipeline locale che acquisisce audio senza un servizio di trascrizione separato, questa è una capacità reale che il lato API non ha.

Dove il 12B non sopravvive al contatto

Lo stesso benchmark che misura il divario di 29 punti registra anche le cose che un piccolo modello denso non riesce a fare bene, e saltarle sarebbe disonesto:

• Contesto lungo — 262.000 token contro 1.000.000. Una pipeline che stipa un codebase o un anno di record in un unico prompt non ha alcuna possibilità su G​emma 4 12B, e suddividerlo in un ciclo di retrieval aggiunge ingegneria che la finestra più ampia avrebbe evitato.

• Lavoro agentico e di uso del computer — la classe di attività in cui il fallimento di un modello piccolo è silenzioso e costoso. Le cifre che Anthropic stessa dichiara come fornitore per Claude Haiku 5.5 collocano OSWorld 2.1 al 72,4% contro il 15,7% del precedente Haiku; un modello da 12B con un Indice di 14 non è lo strumento adatto a quel compito, e i numeri del fornitore in questo caso sono un segnale utile, anche tenendo conto del fatto che nessuna esecuzione indipendente li ha riprodotti.

• Throughput per dollaro su una flotta condivisa — 113 token al secondo su un'istanza ospitata va bene, ma il motivo per fare self-hosting non è la velocità, e un deployment su singola GPU sarà ancora più lento.

• Nessun fallback per nessuno — se esegui Gemma 4 12B in produzione, un'interruzione del tuo hardware è una tua interruzione, senza un secondo provider su cui fare failover a meno che tu non ne costruisca uno.

Eseguendo uno dei due attraverso un unico endpoint

Oggi OrcaRouter include nel catalogo Gemma 4 31B e Gemma 4 26B-A4B al prezzo di listino di Google, con 0% di ricarico, ma non il 12B — e vale la pena dirlo chiaramente invece di lasciar intendere il contrario. Il 12B è raggiungibile tramite la distribuzione diretta del fornitore e diverse piattaforme di terze parti. Allo stesso modo, Claude Haiku 5.5 non è ancora nel catalogo; è disponibile tramite l'API di Anthropic e i principali cloud.

Ciò che un router offre è proprio la forma che questo confronto richiede. Un deployment sensato di un modello locale economico e di un modello API costoso non è una biforcazione: è una rotta. G​emma 4 12B o una variante G​emma 4 ospitata risponde alla maggioranza facile, e le richieste che fanno scattare una condizione di qualità o di lunghezza vengono escalate a una gamba A​nthropic. Claude Haiku 4.5, Claude Sonnet 5.5 e Claude Opus 5.5 sono ora nel catalogo, quindi il percorso di escalation può essere costruito e sottoposto a load test prima ancora che la gamba di fascia piccola sia disponibile. Su OrcaRouter quella composizione è un'espressione DSL di routing e failover automatico anziché un servizio che devi mantenere, e con i prezzi di listino dei provider passati a markup 0%, un movimento di prezzo su qualsiasi gamba è live lo stesso giorno in cui avviene.

La regola

Scegli Claude Haiku 5.5 a meno che un vincolo non lo escluda. È avanti di 29 punti Index rispetto a Gemma 4 12B per un prezzo di listino quasi identico, supporta un milione di token di contesto ed è il modello più forte in ogni attività che entrambi possono affrontare. Non esiste una versione di questo confronto in cui il 12B vinca nel merito.

Scegli G​emma 4 12B quando il vincolo è il punto — quando i token non possono lasciare la tua sede, quando il budget è una macchina invece di un contatore, quando devi eseguire il fine-tuning, o quando ti servono i pesi in mano anziché un listino prezzi e una data di dismissione. Quelle non sono preferenze, sono requisiti, e di fronte a un requisito un divario di 29 punti semplicemente non è il numero decisivo.