Una card del titolo con la scritta 'Gemma 4 12B' e il sottotitolo 'Il 12B senza encoder, spiegato', sopra tre etichette a pillola arrotondate con la scritta '11,95B dense', 'contesto 256K' e 'testo + immagine + audio'. Sfondo bianco pulito con morbidi accenti sfumati blu e ciano e icone lineari flat minimali. Il logo OrcaRouter è composto nell'angolo in basso a destra.
Guides & Insights

Gemma 4 12B: dentro il modello 12B senza encoder di Google

Autore

Gideon Frost

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Gemma 4 12B è il membro di medie dimensioni della famiglia Gemma 4 di DeepMind: un modello denso con pesi aperti da 11,95 miliardi di parametri che legge testo, immagini, audio e fotogrammi video e scrive testo, e la cui scelta ingegneristica distintiva è che non contiene alcun encoder multimodale. Si colloca tra il modello orientato all'edge Gemma 4 E4B e il più grande e sparso Gemma 4 26B A4B. La nota di lancio definisce il suo compito come portare il lavoro multimodale agentico su un laptop — ragionamento, uso di strumenti, programmazione e comprensione di documenti o schermi che viene eseguita sulla macchina davanti a te anziché tramite una connessione a consumo. È anche la dimensione che rappresenta l'intera presenza attiva di questa famiglia sul nostro sito: sono state scritte tre pagine di confronto al riguardo e, fino a questa, non esisteva alcuna pagina dedicata al modello stesso.

Quell'inversione merita di essere nominata fin da subito, perché spiega la forma di tutto ciò che segue. I lettori non arrivano a Gemma 4 12B nello stesso modo in cui arrivano a un flagship. Arrivano di lato, di solito da una pagina di confronto, spesso perché la vera domanda è quale dimensione di Gemma 4 — e vogliono sapere che cos'è in realtà il lato sinistro del confronto prima di spendere un download per esso. Le ricerche che misuriamo per questo nome sono in stragrande maggioranza comparative; il termine nudo da solo è esiguo. Quindi questa è una pagina di riferimento: cos'è il 12B, cosa dichiara la sua scheda del modello, cosa serve per eseguirlo, cosa consente la sua licenza, e quale dei tre confronti esistenti risolve già la domanda con cui sei arrivato.

Non è una storia di lancio, e non va letta come tale. Gemma 4 12Bè stato rilasciato il 3 giugno 2026 — 132 giorni prima di questa pagina — e nulla del modello è cambiato nei sette giorni precedenti alla pubblicazione. Tale data proviene dalla nota di rilascio del fornitore stesso, ed è usata qui per collocare il modello nel tempo, non per annunciarlo.

Che cos'è il 12B e in che cosa differisce dal 26B A4B

La famiglia Gemma 4 comprende cinque dimensioni, e non sono cinque punti su una linea. La scheda del modello le elenca come E2B, E4B, 12B Unified, 26B A4B e 31B, e si dividono tra due architetture: tre modelli densi e un mixture-of-experts, con le dimensioni E che utilizzano embedding per livello per ridurre ciò che viene effettivamente eseguito su un dispositivo.

Gemma 4 12B è un modello denso. La model card gli attribuisce 11,95B parametri totali su 48 layer, con una finestra scorrevole di 1.024 token e un contesto di 256K token. Gemma 4 26B A4B, al contrario, è il mixture-of-experts della famiglia: 25,2B parametri totali ma solo 3,8B attivi per token, distribuiti su 30 layer con 8 esperti attivi su 128 più un esperto condiviso. Quella "A" è il punto centrale del nome — il modello trasporta 26B di pesi e ne paga circa 4B a ogni forward pass, ed è per questo che la model card lo descrive come quasi veloce quanto un modello da 4B pur possedendo una conoscenza molto maggiore.

Quindi la distinzione onesta in una riga è questa. Il 26B A4B è la dimensione che scegli quando vuoi la massima capacità per unità di latenza e hai una workstation o un server su cui metterlo. Il 12B è la dimensione che scegli quando la macchina è un laptop e il budget è di 16GB di memoria. La nota di lancio presenta il 12B come il ponte tra l'E4B e il 26B A4B, e la scheda tecnica lo conferma.

A two-column scoreboard titled 'Gemma 4 12B — the scoreboard'. The left column, 'Gemma 4 12B', lists: total parameters 11.95B dense; active per token 11.95B (no experts); context 256K tokens; input text, image, audio; multimodal encoders none; 4-bit download about 7 GB. The right column, 'Gemma 4 26B A4B', lists: total parameters 25.2B MoE; active per token 3.8B; context 256K tokens; input text, image; multimodal encoders about 550M vision; 4-bit download larger than 12B. A footer reads 'Figures per the Gemma 4 model card, Google DeepMind; 4-bit sizes are community GGUF file sizes, not requirements.' The OrcaRouter logo is composited in the bottom-right corner.

La differenza più interessante è architetturale, ed è il motivo per cui il 12B è etichettato come "Unified" anziché semplicemente "Dense". Ogni altro modello multimodale della famiglia instrada immagini e audio attraverso encoder dedicati prima di passare il risultato al modello linguistico — la scheda elenca un encoder visivo da ~150M e un encoder audio da ~300M sulle E-sizes, e un encoder visivo da ~550M sia sul 31B che sul 26B A4B. Il 12B non ha né l'uno né l'altro; la colonna per i parametri degli encoder visivo e audio sul 12B riporta un trattino in entrambi i casi.

Ciò che li ha sostituiti è piccolo. Il post di lancio descrive la visione come un modulo di embedding leggero — una singola moltiplicazione di matrici più embedding posizionale e normalizzazione — e l'audio come la rimozione completa dell'encoder e la proiezione del segnale grezzo nello stesso spazio dimensionale dei token di testo. Le patch grezze delle immagini e le forme d'onda audio entrano direttamente in un singolo transformer decoder-only. Il vantaggio dichiarato è una minore latenza multimodale e la capacità di fare fine-tuning dell'intero sistema in un'unica passata, attraverso le modalità, con un singolo adattatore anziché uno per encoder.

È anche per questo che il 12B è il primo Gemma di medie dimensioni con input audio nativo. Sulla scheda, "Testo, Immagine, Audio" è la riga delle modalità per E2B, E4B e 12B; il 31B e il 26B A4B sono contrassegnati solo con "Testo, Immagine".

La specifica, così come la enuncia la scheda del modello

Tutto in questa sezione proviene dalla model card di Gemma 4 su ai.google.dev, che copre l'intera famiglia e non solo il 12B. Laddove la model card non dice nulla, ciò viene segnalato invece di essere colmato.

A screenshot of the specification table on Google's Gemma 4 model card at ai.google.dev, showing the family's published rows — context length, modality, total parameters, sliding window and vocabulary — broken out by size, with the 12B Unified column sitting between the E4B and the 26B A4B.

• Lunghezza del contesto — 256K token sul 12B. La scheda indica esplicitamente la suddivisione: i modelli piccoli (E2B, E4B) hanno 128K, i modelli medi (12B, 26B A4B, 31B) hanno 256K.

• Modalità — input di testo, immagini e audio; output di testo. La scheda elenca il video come capacità della famiglia, elaborato come sequenze di fotogrammi, e descrive l'input di immagini con rapporto d'aspetto e risoluzione variabili in tutte le dimensioni.

• Parametri totali {{1}}B, densi {{2}}B. La scheda riporta la cifra {{1}} perché non ci sono esperti da attivare.

• Finestra scorrevole — 1.024 token, il doppio dei 512 usati dalle E-sizes.

• Vocabolario — 262K, condiviso tra tutte e cinque le dimensioni.

• Attenzione — un ibrido che alterna l'attenzione locale a finestra scorrevole con l'attenzione globale completa, con lo strato finale sempre globale. Gli strati globali utilizzano chiavi e valori unificati più RoPE proporzionale per contenere la memoria in contesti lunghi.

• Lingue — preaddestrate su oltre 140 lingue, con la scheda che dichiara un supporto immediato per oltre 35.

Due numeri che vale la pena riconciliare, perché sembrano un disaccordo e non lo sono. La model card dice 256K token; la pagina del modello di Artificial Analysis per il Gemma 4 12B dice 262k. Sono la stessa cifra scritta in due modi — 262.144 token sono 256K — ed è la cifra di vocabolario di 262K della card, lì accanto, a far sembrare la coppia contraddittoria a prima vista.

Sui benchmark, la scheda pubblica una tabella di famiglia per i checkpoint ottimizzati per le istruzioni, e questi sono numeri dichiarati dal fornitore, non indipendenti. Per Gemma 4 12B la scheda riporta 77,2% su MMLU Pro, 78,8% su GPQA Diamond, 77,5% su AIME 2026 senza strumenti, 72,0% su LiveCodeBench v6, un ELO Codeforces di 1659, 69,1% su MMMU Pro e 43,4% su MRCR v2 a 128K con otto needle. La stessa tabella colloca Gemma 4 26B A4B a 82,6% su MMLU Pro, 88,3% su AIME, 77,1% su LiveCodeBench e 44,1% su MRCR — in vantaggio sulla maggior parte delle righe, come ci si aspetterebbe dal modello più grande, e abbastanza vicino su alcune da far capire che il divario di dimensioni non è tutta la storia.

La lettura indipendente, di Artificial Analysis, si riassume in un unico titolo: un punteggio dell'Intelligence Index di 14, classificato al 20º posto su 141 modelli nella sua classe di confronto, con una velocità di output misurata di 110,9 token al secondo e un costo misto di 0,10 $ per milione di token di input e 0,30 $ per milione di output. Quelle cifre di costo sono una mediana tra piattaforme di terze parti che servono i pesi aperti, non un prezzo di listino del fornitore — vale la pena essere precisi, perché il fornitore non pubblica affatto un prezzo per token per il 12B sulla scheda del modello.

Eseguirlo: ciò di cui ha realmente bisogno

Il post di lancio espone direttamente il requisito principale: il 12B è "abbastanza piccolo da poter essere eseguito in locale con soli 16 GB di VRAM o memoria unificata". Le dimensioni di quantizzazione pubblicate per esso lo rendono concreto.

An infographic titled 'Gemma 4 12B — what fits where' showing four cards in a row: 23.9 GB for BF16 full precision, needing a 24GB card or more; 7.0 GB for Google's QAT GGUF weights plus a 0.18 GB projector; 7.1 GB for a community GGUF Q4_K_M build, described as the 16GB laptop version; and 12.7 GB for a community GGUF Q8_0 or MLX 8-bit build. A centered line below reads 'Google: small enough to run locally with just 16GB of VRAM or unified memory.' A footer reads 'Sizes are published file sizes, not memory requirements; the local-run line is Google's own claim.' The OrcaRouter logo is composited in the bottom-right corner.

• Precisione completa — il checkpoint instruction-tuned su Hugging Face è un singolo file safetensors da 23,92 GB. In bfloat16, questa è l'occupazione dei pesi grezzi, prima di qualsiasi KV cache, quindi una macchina da 16 GB non può contenerlo e una scheda da 24 GB è al limite.

• Le build quantizzate dello stesso fornitore — poiché il 12B è stato distribuito con un addestramento consapevole della quantizzazione anziché solo con un quantizzatore post-hoc. Il fornitore pubblica un GGUF QAT di circa 6,98 GB per i pesi più un file di proiezione multimodale da 0,18 GB, e una build QAT compressed-tensors (w4a16) da 10,26 GB. Esiste anche un checkpoint QAT non quantizzato pubblicato specificamente come base da cui fare fine-tuning prima di riquantizzare.

• Community GGUF — la build Unsloth, ampiamente mirrorata, va da circa 4,2 GB con il 2-bit più aggressivo fino a 6,38 GB con IQ4_XS, 7,12 GB con Q4_K_M, 8,41 GB con Q5_K_M e 12,67 GB con Q8_0. Il mirror di LM Studio pubblica Q4_K_M a 7,38 GB, Q6_K a 9,79 GB e Q8_0 a 12,67 GB, ciascuno con lo stesso file di proiezione da 0,18 GB.

• MLX — una build quantizzata a 8 bit per Apple silicon si attesta intorno ai 12,7 GB distribuiti su tre file; una build community a 4 bit di un fine-tune per il coding si aggira intorno ai 6,7 GB.

Letti insieme, questa è la risposta pratica a "ci starà". Una build a 4 bit di Gemma 4 12B da circa 7 GB è la versione che fa funzionare un portatile da 16 GB, esattamente come dichiara il produttore. Se vuoi il modello non quantizzato, l'obiettivo è una scheda da 24 GB o più, e se vuoi il contesto completo da 256K ti serve margine in aggiunta all'ingombro dei pesi per la cache.

Due cose che le fonti non ti forniscono, e che questa pagina non inventerà. Non esiste alcun valore di throughput pubblicato dal fornitore per l'inferenza locale — i 110,9 token al secondo di Artificial Analysis sono una misurazione ospitata su infrastruttura di terze parti, non un valore da laptop, e i due non sono intercambiabili. E non esiste una tabella pubblicata della RAM minima per quantizzazione; le dimensioni sopra riportate sono dimensioni di file, che rappresentano un limite minimo, non un requisito.

Ciò che la model card documenta effettivamente è la toolchain circostante piuttosto che un singolo runtime di riferimento: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM e Unsloth per l'inferenza e il fine-tuning, con LM Studio, Ollama e LiteRT-LM come percorsi locali pacchettizzati, e i pesi su Hugging Face e Kaggle. Il 12B viene inoltre fornito con drafter per la predizione multi-token, pubblicati come checkpoint assistant separati — un piccolo download aggiuntivo che baratta memoria con latenza.

Un dato di routing, detto chiaramente perché è il tipo di cosa che una pagina di confronto lascia ambigua: Gemma 4 12B non è un modello servito da OrcaRouter, in nessuna grafia — non il nome nudo, non una variante datata, non una quantizzata. Le dimensioni di Gemma 4 che instradiamo sono la 26B A4B e la 31B. Quindi, se vuoi chiamare questo modello, l'auto-hosting dei pesi o un host di terze parti che li serve è la strada; se preferisci non eseguirlo tu stesso, il prossimo passo onesto è verificare se una dimensione diversa della famiglia ti dà ciò che ti serviva.

La licenza, specificamente per questa dimensione

La model card di Gemma 4 indica la licenza come Apache 2.0 e rimanda alla pagina della licenza di Gemma 4, che fornisce il testo di Apache 2.0 — la licenza Apache standard, senza limiti d'uso, senza soglia di utenti attivi mensili e senza un livello commerciale separato. Il repository Hugging Face del checkpoint instruction-tuned da 12B riporta la stessa dichiarazione nei suoi metadati e punta allo stesso URL della licenza. Quindi per questa dimensione la questione della licenza ha una risposta breve: usarlo, modificarlo, ridistribuirlo, commercialmente o in altro modo, secondo i termini di Apache 2.0.

Accanto ad esso esistono due documenti collaterali che vale la pena conoscere anziché confonderli con la licenza. Il fornitore pubblica una pagina dei Termini di utilizzo di Gemma e una Politica sull'uso vietato di Gemma. La politica sull'uso vietato è un documento comportamentale che elenca categorie di output che i modelli non devono essere usati per generare. È una politica, non una restrizione della licenza sui pesi — i pesi stessi sono Apache 2.0, ed è ciò che rende possibile in assoluto la creazione di derivati della comunità di questo modello. Se stai ridistribuendo Gemma 4 12B o un suo fine-tune, la licenza è ciò che disciplina la tua ridistribuzione; la politica è ciò che disciplina l'uso accettabile.

Questa distinzione risponde alla domanda che solleva l'ecosistema dei derivati della comunità, senza bisogno di caratterizzare il comportamento di nessuno. Poiché i pesi sono aperti con una licenza permissiva, terze parti possono e di fatto pubblicano fine-tune e quantizzazioni del 12B — varianti abliterated, fine-tune di dominio, ricette di quantizzazione alternative. Ciò che la licenza permette è la ridistribuzione di quei derivati; la licenza è anche il motivo per cui esistono.

I tre confronti dietro cui si trova questa pagina

Tutte e tre le pagine live sotto questo stem sono confronti, e ciascuna risponde già a una domanda diversa. Questa pagina non si pronuncia su nessuna di esse — è l'oggetto che esse descrivono.

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — chiarisce cosa succede quando entrambe le opzioni sono del fornitore e l'asse è come paghi: un modello che scarichi con licenza Apache 2.0 contro il livello a consumo più economico dell'API ospitata.

• Gemma 4 12B vs GLM 5.2 — dirime l'accoppiata estremamente asimmetrica: un 12B senza encoder da puntare su un laptop contro un mixture-of-experts a pesi aperti da 744 miliardi di parametri, pensato per il coding agentico a lungo orizzonte a un prezzo diverse volte superiore.

• Gemma 4 12B contro Qwen3.8 Max — risolve direttamente la questione tra esecuzione sul dispositivo e noleggio: una macchina sulla tua scrivania contro il modello di punta dello stesso laboratorio erogato a token.

Se quello che vuoi davvero è una delle altre dimensioni di Gemma 4 invece di un altro confronto con il 12B, la pagina che le copre tutte e cinque in una volta è l'hub della famiglia, dove E2B, E4B, 26B A4B e 31B sono descritti insieme. E se hai già deciso che il 12B non è la dimensione giusta, i modelli con cui viene più spesso messo a confronto — GLM 5.2, Qwen3.8 Max e Gemini 3.5 Flash-Lite — sono tutti raggiungibili tramite OrcaRouter su un'unica chiave, con 0% di ricarico sul prezzo di listino dello stesso fornitore, così un taglio di prezzo del venditore arriva qui lo stesso giorno in cui viene annunciato.

Ciò che non è stabilito

Due lacune vale la pena dichiararle anziché mascherarle. La tabella di benchmark qui sopra è dichiarata dal fornitore — la scheda e la configurazione di valutazione del fornitore stesso — e sebbene Artificial Analysis abbia nel frattempo valutato il modello in modo indipendente con un Intelligence Index di 14, non esiste una vasta replica indipendente dei dati per singolo benchmark, quindi considera i numeri a livello di riga come affermazioni. E non esiste una tabella di memoria per quantizzazione pubblicata per il 12B, il che significa che la frase "16GB è sufficiente" è un'affermazione del fornitore supportata dalle dimensioni dei file, non una configurazione misurata che puoi copiare.

Il modello in sé è facile da collocare: un modello multimodale Apache 2.0, senza encoder, da 12 miliardi di parametri, datato 3 giugno 2026, che girerà su un laptop a 4 bit ed è la dimensione più piccola di Gemma 4 con audio nativo. Non è, invece, un modello con una tariffa first-party ospitata, ed è per questo che la decisione pratica al riguardo è prima una decisione hardware e poi una decisione di prezzo.

Se sei arrivato qui da un confronto e il confronto non è quello che ti serviva, la pagina successiva è il confronto che corrisponde alla tua domanda e, in mancanza di quello, l'intera famiglia Gemma 4 — il 12B è una delle cinque dimensioni, e la dimensione che vuoi davvero potrebbe essere il 26B A4B che puoi chiamare oggi o il 31B che puoi eseguire al vertice della gamma della famiglia.