Gemma 4 12B: Een kijkje in Googles encoder-vrije 12B-model

Gemma 4 12B is het middelgrote lid van de Gemma 4-familie van DeepMind: een dense open-weightsmodel met 11,95 miljard parameters dat tekst, afbeeldingen, audio en videoframes leest en tekst schrijft, en waarvan de bepalende technische ontwerpbeslissing is dat het helemaal geen multimodale encoders heeft. Het zit tussen de op edge gerichte Gemma 4 E4B en de grotere, schaarsere Gemma 4 26B A4B. De lanceernota omschrijft zijn taak als het naar een laptop brengen van agentisch multimodaal werk — redeneren, toolgebruik, coderen en het begrijpen van documenten of schermen dat op de machine voor je draait in plaats van via een verbinding met datalimiet. Het is ook het formaat dat de volledige live footprint van deze familie op onze eigen site draagt: er zijn drie vergelijkingspagina's over geschreven, en tot deze pagina was er geen pagina over het model zelf.

Die inversie is het waard om vooraf te benoemen, want ze verklaart de vorm van alles hieronder. Lezers komen niet bij Gemma 4 12B aan zoals ze bij een vlaggenschip aankomen. Ze komen zijdelings, meestal vanaf een matchup-pagina, vaak omdat de echte vraag is welke grootte van Gemma 4 — en ze willen weten wat de linkerkant van de vergelijking eigenlijk is voordat ze er een download aan besteden. De zoekopdrachten die we voor deze naam meten, zijn in overgrote meerderheid vergelijkend; de kale term op zichzelf is dun. Dit is dus een referentiepagina: wat de 12B is, wat de modelkaart vermeldt, wat er nodig is om het te draaien, wat de licentie toestaat, en welke van de drie bestaande vergelijkingen de vraag waarmee je kwam al beantwoordt.

Het is geen lanceringsverhaal, en het moet niet als zodanig worden gelezen. Gemma 4 12B werd op 3 juni 2026 uitgebracht — 132 dagen voor deze pagina — en er is in de zeven dagen voor publicatie niets aan het model veranderd. Die datum komt uit de eigen release-opmerking van de leverancier, en wordt hier gebruikt om het model in de tijd te plaatsen in plaats van het aan te kondigen.

Wat de 12B is, en waarin deze verschilt van de 26B A4B

De Gemma 4-familie heeft vijf formaten, en ze zijn geen vijf punten op één lijn. De modelkaart vermeldt ze als E2B, E4B, 12B Unified, 26B A4B en 31B, en ze zijn verdeeld over twee architecturen: drie dense modellen en één mixture-of-experts, waarbij de E-formaten per-laag-embeddings gebruiken om te verkleinen wat er daadwerkelijk op een apparaat draait.

Gemma 4 12B is een dense model. De modelkaart geeft het 11,95 miljard totale parameters over 48 lagen, met een sliding window van 1.024 tokens en een context van 256K tokens. De Gemma 4 26B A4B is daarentegen de mixture-of-experts van de familie: 25,2 miljard totale parameters, maar slechts 3,8 miljard actief per token, verdeeld over 30 lagen met 8 actieve experts van de 128 plus één gedeelde expert. Die "A" is het hele punt van de naam — het model draagt 26 miljard aan gewichten en betaalt op elke forward pass voor ongeveer 4 miljard daarvan, wat de reden is dat de modelkaart het beschrijft als bijna zo snel draaiend als een 4B-model, terwijl het veel meer kennis bevat.

Het eerlijke onderscheid in één zin is dit. De 26B A4B is de grootte die je kiest wanneer je de meeste capaciteit per eenheid latentie wilt en je een workstation of een server hebt om het op te draaien. De 12B is de grootte die je kiest wanneer de machine een laptop is en het budget 16GB geheugen bedraagt. De lanceringsnotitie positioneert de 12B als de brug tussen de E4B en de 26B A4B, en het specificatieblad bevestigt dat.

Het interessantere verschil is architecturaal, en het is de reden dat de 12B het label "Unified" krijgt in plaats van alleen "Dense". Elk ander multimodaal model in de familie leidt afbeeldingen en audio via speciale encoders voordat het resultaat aan het taalmodel wordt doorgegeven — de kaart vermeldt een vision-encoder van ~150M en een audio-encoder van ~300M bij de E-sizes, en een vision-encoder van ~550M op zowel de 31B als de 26B A4B. De 12B heeft geen van beide; de kolom voor vision- en audio-encoderparameters op de 12B staat in beide gevallen als een streepje.

Wat ze heeft vervangen, is klein. De aankondigingspost beschrijft vision als een lichtgewicht embeddingmodule — één enkele matrixvermenigvuldiging plus positionele embedding en normalisatie — en audio als het volledig verwijderen van de encoder en het projecteren van het rauwe signaal in dezelfde dimensionale ruimte als teksttokens. Rauwe beeldpatches en audiosignalen gaan rechtstreeks een enkele decoder-only transformer in. Het beloofde voordeel is een lagere multimodale latency en de mogelijkheid om het geheel in één pass te fine-tunen, over modaliteiten heen, met één enkele adapter in plaats van één per encoder.

Dat is ook waarom de 12B de eerste middelgrote Gemma is met native audio-invoer. Op de kaart is "Tekst, Afbeelding, Audio" de modaliteitsrij voor E2B, E4B en 12B; de 31B en 26B A4B zijn alleen gemarkeerd met "Tekst, Afbeelding".

De specificatie, zoals de modelkaart die vermeldt

Alles in dit gedeelte is afkomstig van de modelkaart van Gemma 4 op ai.google.dev, die de hele familie behandelt in plaats van alleen de 12B. Waar de kaart geen informatie geeft, wordt dat aangegeven in plaats van ingevuld.

• Contextlengte — 256K tokens op de 12B. De kaart vermeldt de opsplitsing expliciet: de kleine modellen (E2B, E4B) krijgen 128K, de middelgrote modellen (12B, 26B A4B, 31B) krijgen 256K.

• Modaliteit — tekst-, beeld- en audio-invoer; tekstuitvoer. De kaart vermeldt video als een capaciteit van de familie die als framereeksen wordt verwerkt, en beschrijft beeldinvoer met variabele beeldverhouding en resolutie voor alle groottes.

• Totale parameters — 11,95 miljard, dense, 48 lagen. De kaart vermeldt geen cijfer voor het aantal actieve parameters, omdat er geen experts zijn om te activeren.

• Schuifvenster — 1.024 tokens, het dubbele van de 512 die de E-formaten gebruiken.

• Woordenschat — 262K, gedeeld over alle vijf groottes.

• Attention — een hybride die lokale sliding-window-attention afwisselt met volledige globale attention, waarbij de laatste laag altijd globaal is. Globale lagen gebruiken uniforme keys en values plus proportionele RoPE om het geheugen bij lange context beperkt te houden.

• Talen — vooraf getraind op 140+ talen, waarbij de kaart claimt out-of-the-box ondersteuning te bieden voor 35+.

Twee getallen die het verdienen om met elkaar verzoend te worden, want ze lijken een meningsverschil en zijn dat niet. De modelkaart zegt 256K tokens; de modelpagina van Artificial Analysis voor Gemma 4 12B zegt 262k. Dat is hetzelfde getal op twee manieren geschreven — 262.144 tokens is 256K — en het vocabulairegetal van 262K op de kaart vlak ernaast is wat het tweetal op het eerste gezicht tegenstrijdig doet lijken.

Op benchmarks publiceert de kaart een familietabel voor de instruction-tuned checkpoints, en dit zijn door de leverancier gerapporteerde cijfers, niet onafhankelijke. Voor Gemma 4 12B vermeldt de kaart 77,2% op MMLU Pro, 78,8% op GPQA Diamond, 77,5% op AIME 2026 zonder tools, 72,0% op LiveCodeBench v6, een Codeforces-ELO van 1659, 69,1% op MMMU Pro, en 43,4% op MRCR v2 bij 128K met acht needles. Dezelfde tabel plaatst Gemma 4 26B A4B op 82,6% MMLU Pro, 88,3% AIME, 77,1% LiveCodeBench en 44,1% MRCR — voor op de meeste rijen, wat je zou verwachten van het grotere model, en op een paar rijen dicht genoeg bij dat het grootteverschil niet het hele verhaal is.

De onafhankelijke beoordeling, van Artificial Analysis, is één kop: een Intelligence Index-score van 14, op plaats 20 van de 141 modellen in zijn vergelijkingsklasse, met een gemeten outputsnelheid van 110,9 tokens per seconde en een gemengde kostprijs van $0,10 per miljoen inputtokens en $0,30 per miljoen output. Die kostencijfers zijn een mediaan over platforms van derden die de open weights aanbieden, niet een adviesprijs van de leverancier — dit is het preciseren waard, want de leverancier publiceert helemaal geen prijs per token voor de 12B op de modelkaart.

Het draaien ervan: wat het daadwerkelijk nodig heeft

Het lanceringsbericht geeft de belangrijkste vereiste direct weer: de 12B is "klein genoeg om lokaal te draaien met slechts 16 GB VRAM of unified memory." De gepubliceerde kwantisatiegroottes maken dat concreet.

• Volledige precisie — het op instructies afgestemde checkpoint op Hugging Face is één enkel safetensors-bestand van 23,92 GB. In bfloat16 is dat de ruwe voetafdruk van de gewichten, vóór enige KV-cache, dus een machine met 16 GB kan het niet bevatten en een kaart van 24 GB is krap.

• De eigen gekwantiseerde builds van de leverancier — omdat de 12B werd geleverd met kwantisatiebewuste training in plaats van alleen een post-hockwantiseerder. De leverancier publiceert een QAT-GGUF van ongeveer 6,98 GB voor de gewichten plus een multimodaal projectiebestand van 0,18 GB, en een QAT compressed-tensors-build (w4a16) van 10,26 GB. Er is ook een niet-gekwantiseerd QAT-checkpoint gepubliceerd, specifiek als de basis om vanaf te fine-tunen voordat opnieuw wordt gekwantiseerd.

• Community GGUF — de breed gespiegelde Unsloth-build loopt van ongeveer 4,2 GB bij de meest agressieve 2-bit tot 6,38 GB bij IQ4_XS, 7,12 GB bij Q4_K_M, 8,41 GB bij Q5_K_M en 12,67 GB bij Q8_0. De LM Studio-mirror publiceert Q4_K_M op 7,38 GB, Q6_K op 9,79 GB en Q8_0 op 12,67 GB, elk met hetzelfde projectiebestand van 0,18 GB.

• MLX — een 8-bit gekwantiseerde build voor Apple silicon komt uit op ongeveer 12,7 GB verdeeld over drie bestanden; een 4-bit communitybuild van een coding-fine-tune komt uit op bijna 6,7 GB.

Samen gelezen is dat het praktische antwoord op "past dit". Een 4-bit build van Gemma 4 12B van ongeveer 7 GB is de versie die een 16GB-laptop laat werken, precies zoals de leverancier beweert. Als je het model ongekwantiseerd wilt, is het doel een kaart van 24GB of meer, en als je de volledige 256K-context wilt, heb je ruimte nodig bovenop de gewichtsvoetafdruk voor de cache.

Twee dingen die de bronnen je niet geven, en die deze pagina niet zal verzinnen. Er is geen doorvoercijfer gepubliceerd door de leverancier voor lokale inferentie — de 110,9 tokens per seconde van Artificial Analysis is een gehoste meting op infrastructuur van derden, geen laptopgetal, en die twee zijn niet uitwisselbaar. En er is geen gepubliceerde tabel met minimum-RAM per kwantisatie; de bovenstaande groottes zijn bestandsgroottes, wat een ondergrens is, geen vereiste.

Wat de modelkaart wél documenteert, is de omliggende toolchain in plaats van één enkele goedgekeurde runtime: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM en Unsloth voor inferentie en fine-tuning, met LM Studio, Ollama en LiteRT-LM als de gebundelde lokale routes, en de gewichten op Hugging Face en Kaggle. De 12B wordt ook geleverd met drafters voor multi-tokenvoorspelling, gepubliceerd als afzonderlijke assistent-checkpoints — een kleine extra download die geheugen inruilt voor latentie.

Eén routingfeit, ronduit gezegd omdat het precies het soort ding is dat een vergelijkingspagina vaag laat: Gemma 4 12B is geen model dat OrcaRouter aanbiedt, in geen enkele spelling — niet de kale naam, niet een variant met een datum, niet een gekwantiseerde. De Gemma 4-formaten die we wél routeren zijn de 26B A4B en de 31B. Dus als je dit model wilt aanroepen, is de route: de gewichten zelf hosten of een externe host die ze aanbiedt; als je het liever niet zelf draait, is de eerlijke volgende stap nagaan of een ander formaat binnen de familie je geeft wat je nodig had.

De licentie, specifiek voor deze maat

De modelkaart van Gemma 4 vermeldt de licentie als Apache 2.0 en linkt naar de licentiepagina van Gemma 4, die de Apache 2.0-tekst bevat — de standaard Apache-licentie, zonder gebruikslimieten, zonder drempel voor maandelijks actieve gebruikers en zonder apart commercieel niveau. De Hugging Face-repository voor het 12B instruction-tuned checkpoint bevat dezelfde verklaring in de metadata en verwijst naar dezelfde licentie-URL. Dus voor deze grootte is het antwoord op de licentievraag kort: gebruik het, wijzig het, verspreid het, commercieel of anderszins, onder de voorwaarden van Apache 2.0.

Er bestaan twee aanvullende documenten naast de licentie, die het waard zijn om te kennen en niet te verwarren met de licentie. De leverancier publiceert een pagina met Gemma Terms of Use en een Gemma Prohibited Use Policy. Het verboden-gebruikbeleid is een gedragsdocument dat categorieën output opsomt die de modellen niet mogen genereren. Het is een beleid, geen licentievoorwaarde voor de gewichten — de gewichten zelf zijn Apache 2.0, wat community-afgeleiden van dit model überhaupt mogelijk maakt. Als je Gemma 4 12B of een fine-tune daarvan herdistribueert, is de licentie bepalend voor je herdistributie; het beleid is bepalend voor acceptabel gebruik.

Dat onderscheid beantwoordt de vraag die het ecosysteem van community-afgeleiden opwerpt, zonder het gedrag van wie dan ook te hoeven karakteriseren. Omdat de gewichten open zijn onder een permissieve licentie, kunnen derden fine-tunes en kwantisaties van de 12B publiceren, en dat doen ze ook — abliterated varianten, domein-fine-tunes, alternatieve kwantisatierecepten. Wat de licentie toestaat, is de herdistributie van die afgeleiden; de licentie is ook de reden dat ze bestaan.

De drie vergelijkingen waarachter deze pagina zit

Alle drie de livepagina's onder deze stam zijn matchups, en elk ervan beantwoordt al een andere vraag. Deze pagina doet geen uitspraak over een van hen — het is het ding dat ze beschrijven.

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — maakt duidelijk wat er gebeurt wanneer beide opties van de leverancier zelf zijn en de as is hoe je betaalt: een model dat je onder Apache 2.0 downloadt tegenover de goedkoopste verbruiksgebaseerde trede van de gehoste API.

• Gemma 4 12B vs. GLM 5.2 — beslecht de extreem asymmetrische vergelijking: een encoderloze 12B die je op een laptop richt tegenover een open-weight mixture-of-experts met 744B parameters, gebouwd voor agentische codering voor de lange termijn tegen een vele malen hogere prijs.

• Gemma 4 12B vs Qwen3.8 Max — beslecht de vraag on-device versus gehuurd direct: een machine op je bureau tegenover de flagship van hetzelfde lab, die per token wordt geleverd.

Als je eigenlijk een van de andere Gemma 4-formaten wilt in plaats van nog een 12B-vergelijking, dan is de pagina die alle vijf tegelijk behandelt de familiehub, waar de E2B, E4B, 26B A4B en 31B samen worden beschreven. En als je al hebt besloten dat de 12B niet het juiste formaat is, zijn de modellen waarmee hij het vaakst wordt vergeleken — GLM 5.2, Qwen3.8 Max en Gemini 3.5 Flash-Lite — allemaal bereikbaar via OrcaRouter met één sleutel, met 0% opslag op de eigen listprijs van de provider, dus een prijsverlaging van een leverancier landt hier dezelfde dag dat die wordt aangekondigd.

Wat is niet geregeld

Twee hiaten zijn het vermelden waard in plaats van ze te verdoezelen. De benchmarktabel hierboven is door de leverancier gerapporteerd — de eigen kaart en evaluatieopzet van de leverancier — en hoewel Artificial Analysis het model sindsdien onafhankelijk heeft gescoord op een Intelligence Index van 14, is er geen brede onafhankelijke replicatie van de cijfers per benchmark, dus behandel de getallen op rijniveau als claims. En er is geen gepubliceerde geheugentabel per kwantisatie voor de 12B, wat betekent dat de bewering "16GB is genoeg" een claim van de leverancier is die door bestandsgroottes wordt ondersteund, en niet een gemeten configuratie die je kunt kopiëren.

Het model zelf is makkelijk te plaatsen: een Apache 2.0, encoderloos, multimodaal model met 12B parameters, gedateerd op 3 juni 2026, dat op een laptop op 4-bit zal draaien en de kleinste Gemma 4-variant met native audio is. Wat het niet is, is een model met een gehost first-party tarief, wat de reden is dat de praktische beslissing eromheen in de eerste plaats een hardwarebeslissing is en in de tweede plaats een prijsbeslissing.

Als je hier via een match-up bent terechtgekomen en die match-up is niet degene die je nodig had, dan is de volgende pagina de vergelijking die bij je vraag past, en als dat niet zo is, de bredere Gemma 4-familie — de 12B is één van de vijf maten, en de maat die je eigenlijk wilt, is misschien de 26B A4B die je vandaag kunt aanroepen of de 31B die je bovenaan het gamma van de familie kunt draaien.