ZwZ2-9B vs Gemma 4 12B: Eén model, één modelkaart, en welke van beide je daadwerkelijk kunt uitbrengen

Gemma 4 12B is sinds 23 mei 2026 openbaar. Het wordt geleverd met een modelkaart, een technisch rapport, een gepubliceerde evaluatiesuite, vijf zustervarianten van verschillende grootte, en een downloadaantal op de Hub dat in de afgelopen maand alleen al boven de 79.000 is uitgekomen. ZwZ2-9B is sinds 16 oktober 2026 openbaar — vandaag — als acht bestanden in een repository zonder README, zonder licentieveld en zonder pipeline-tag. Beide zijn ongeveer even groot. Beide accepteren afbeeldingen. Beide declareren hetzelfde contextplafond van 262.144 posities. En ze verkeren bij lange na niet in dezelfde staat van gereedheid, en dat is de enige vergelijking die ertoe doet als je besluit waar je een GPU aan uitgeeft.

Het korte antwoord: Gemma 4 12B is een afgerond product van Google DeepMind waar anderen al vijf maanden tegen de grenzen aanlopen. ZwZ2-9B is een checkpoint van inclusionAI dat nog door niemand buiten het lab is beschreven, het lab zelf inbegrepen. Als je deze maand iets moet uitbrengen, is de keuze niet moeilijk en het is geen oordeel over de gewichten. Als je beslist waar je volgende maand op gaat prototypen, lees dan de cijfers hieronder en voer daarna je eigen evaluatie uit, want slechts één van deze twee modellen heeft je iets gegeven om te lezen.

De twee stacks, dimensie voor dimensie

• Parameters — ZwZ2-9B: 9.409.813.744 in bfloat16. Gemma 4 12B: 11,95 miljard.

• Architectuur — qwen3_5, een hybride van lineaire en volledige attention. Gemma: gemma4_unified, encoderloos en verenigd over modaliteiten.

• Lagen — 32 in ZwZ2-9B (24 lineaire attention, 8 volledige attention). 48 in Gemma 4 12B (40 sliding-window op 1.024 tokens, 8 volledige attention).

• Contextplafond — 262.144 posities door beide opgegeven.

• Vocabulaire — 248.320 vs 262.144, waarbij het vocabulaire van Gemma gereserveerd is voor token-id's voor afbeeldingen, audio en video.

• Modaliteiten in — tekst, afbeelding en video voor ZwZ2-9B. Tekst, afbeelding, audio en video voor Gemma 4 12B, waarvan de configuratie een audiotoren van 640 dimensies bevat.

• Licentie — geen opgegeven vs Apache-2.0.

• Trackrecord — nul downloads en twee likes tegenover 79.565 downloads en 790 likes in de afgelopen maand.

Twee van die regels verdienen een tweede blik, omdat ze een intuïtie omkeren. De eerste is het attention-schema: ZwZ2-9B is een model met 32 lagen en 8 lagen volledige attention, en Gemma 4 12B is een model met 48 lagen en 8 lagen volledige attention. Beide zetten erop in dat het dure deel van attention zeldzaam moet zijn; ze verschillen alleen van mening over hoe zeldzaam: één op de vier lagen versus één op de zes. De tweede is het contextplafond, waar een 9,4B-checkpoint zonder documentatie en een 11,95B-flagship van DeepMind op exact hetzelfde nummer van 262.144 uitkomen — wat een toevalligheid van ontwerpdoelen is in plaats van enige relatie tussen de twee.

Waar Gemma 4 12B niet alleen voorloopt, maar in een andere categorie valt

Audio komt eerst. Het model van Google neemt geluid native op, met een speciale audiotoren en audio-token-id's in zijn vocabulaire. De tokenizer van ZwZ2-9B reserveert ook <|audio_start|>, <|audio_end|> en <|audio_pad|> — maar de config bevat geen enkele audio-configuratie, dus die tokens zijn vocabulaire dat het heeft geërfd in plaats van een capaciteit die het bezit. Als je workload spraak bevat, is dit het einde van de vergelijking, en het is de moeite waard om precies te zijn over waarom: niet omdat ZwZ2-9B slechter scoorde, maar omdat er niets in de checkpoint zit dat een golfvorm kan verwerken.

Documentatie is het tweede, en dat is degene die zich opstapelt. Gemma 4 12B komt met een technisch rapport (arXiv 2607.02770), een gepubliceerde evaluatieset die alles bestrijkt, van redeneren in GPQA-stijl tot visionbenchmarks, een vermelde licentie, en een mededeling dat het model in vijf groottes beschikbaar is, zodat je capaciteit tegen voetafdruk kunt afwegen zonder de familie te verlaten. Daaromheen toont de Hub 83 gepubliceerde fine-tunes, 49 kwantisaties en 15 Spaces die erop zijn gebouwd. Dat ecosysteem is geen decoratie. Het is een verzameling bewijs over hoe het model faalt, geproduceerd door mensen die niet bij Google werken, en er is geen vervanging voor.

Licentiëring is het derde punt, en het minst glamoureuze en het meest beslissende. Gemma 4 12B is Apache-2.0. ZwZ2-9B verklaart helemaal geen licentie — niet open, niet custom, niets in de repository-metadata. Zonder een verklaring is de veilige interpretatie dat de uitgever zijn rechten heeft voorbehouden, en dat is geen kwestie waarvan je tijdens de inkoop wilt ontdekken dat je ernaast zat. Een checkpoint dat je niet legaal kunt gebruiken is niet goedkoper dan een dat je wel kunt gebruiken.

De enige plek waar ZwZ2-9B een structureel argument heeft

Het zit niet in kwaliteit, die nog niemand kan meten. Het zit in hoe het ding rekenkracht besteedt, en de config is daar ongewoon expliciet over.

Driekwart van de lagen van ZwZ2-9B bestaat uit lineaire aandacht — 24 van de 32 — die elk een recursieve toestand van vaste grootte bijhouden in plaats van een key-value-cache die met het gesprek meegroeit. De config noemt het mechanisme: 16 key-heads en 32 value-heads op dimensie 128, een convolutiekernel met breedte 4, en een toestand die in float32 wordt bijgehouden voor numerieke stabiliteit. Alleen elke vierde laag doet volledige aandacht. Gemma 4 12B waagt een vergelijkbare gok met een ander mechanisme — 40 van zijn 48 lagen gebruiken een schuifvenster van maximaal 1.024 tokens — dus beide modellen zijn ontworpen om op de meeste lagen niet langer de kosten van volledige aandacht te betalen. Ze verschillen in mate en in techniek, en zonder benchmarks is er geen eerlijke manier om te zeggen welke wint. De ontwerpintentie is duidelijk; de uitkomst is niet gemeten.

De voetafdruk is het eenvoudige deel. 9,41 miljard parameters tegenover 11,95 miljard is ongeveer een vijfde minder gewicht om vast te houden voordat je iets kwantiseert, en de visietoren is klein — 27 lagen met een hidden size van 1.152 die projecteren naar 4.096 — waardoor het model comfortabel past in dezelfde klasse hardware die Gemma 4 12B zou draaien.

Het gedragsverschil dat je moet kennen, is de standaardinstelling voor redeneren. De chatsjabloon van ZwZ2-9B zendt een leeg <think></think>-blok uit tenzij je expliciet om redeneren vraagt, dus het antwoordt direct zonder aanpassingen. Gemma 4 12B biedt denkmodi die je zelf configureert. Voor extractie, classificatie of routing — de taken waarbij een tweede redeneerronde latentie is die je liever niet wilde betalen — is slechts één van deze twee standaard goedkoop.

Wat ZwZ2-9B je niet kan vertellen, en waarom dat de vergelijking beslist

Je kunt niet weten of het een instruction-tuned model of een base checkpoint is, omdat de repository geen README en geen pipeline-tag heeft, en beide zouden dat normaal gesproken vermelden. De ingebakken systeemprompt die naar <answer>-tags wijst, is sterk bewijs voor een getraind instructiemodel, maar het is bewijs, geen uitspraak.

Je kunt niet weten waarop het is getraind, of het fijnmazige waarnemingsrecept dat de naam van de ZwZ-familie heeft gevestigd, is overgenomen, of waar het goed in zou moeten zijn. Je kunt niet weten welke licentie het heeft. En je kunt niet weten hoe het zich aan de randen gedraagt, omdat niemand buiten inclusionAI het heeft gedraaid.

Zet dat naast Gemma 4 12B, en de asymmetrie is geen kwestie van gradatie. Het ene model komt met een technisch rapport en acht maanden openbaar gebruik; het andere komt met een config.json en een omgekeerde standaardinstelling voor de denkmodus. Dat is een reden om te prototypen, geen reden om af te wijzen — ongedocumenteerde checkpoints zijn waar veel interessant werk voor het eerst opduikt — maar het is een reden om eerlijk te zijn dat je de evaluatie zelf zou doen.

Een beslissingsregel die niet afhangt van het ontbrekende bewijs.

Kies Gemma 4 12B als een van de volgende gevallen waar is: je hebt audio-invoer nodig, je hebt een licentie nodig die je aan een advocaat kunt laten zien, je moet binnen een kwartaal kunnen opleveren, of je hebt zustermodellen in verschillende groottes nodig zodat dezelfde evaluatiesuite binnen een familie omhoog en omlaag kan worden overgedragen. Alle vier zijn geregeld.

Neem ZwZ2-9B serieus als je een specifieke vraag hebt die een 9,4B visiemodel met hybride attention en een standaardinstelling zonder redeneren beter kan beantwoorden dan een model waarvoor je al betaalt, en je bereid bent het zelf te meten. Het eerste dat je moet testen is niet zijn intelligentie. Het is of het de afbeeldingen accepteert die je er daadwerkelijk naartoe stuurt, het formaat teruggeeft dat je daadwerkelijk nodig hebt, en dat doet zonder dat er een licentieprobleem boven de uitkomst hangt.

En vergelijk ze niet in een benchmarktabel, want de tabel heeft maar één kolom. Je zou de gepubliceerde cijfers van Gemma 4 12B naast een lege plek kunnen zetten en het een vergelijking kunnen noemen, maar de lege plek is de bevinding. Iedereen die deze week een direct vergelijkend kwaliteitsoordeel over ZwZ2-9B presenteert, verzint het.

Geen van beide checkpoints staat vandaag in onze catalogus, dus geen van beide is iets wat je nu via ons kunt aanroepen — Gemma 4 12B is een Hugging Face-download en je eigen servingstack, en dat geldt ook voor ZwZ2-9B. Wat we wél aanbieden is het familielid dat de Gemma-vergelijking uitvoerbaar maakt zonder dat je iets verandert aan hoe je evalueert: Gemma 4 26B A4B, het mixture-of-experts-lid van dezelfde familie, op een gehost endpoint voor $0,06 per miljoen inputtokens en $0,33 per miljoen outputtokens met dezelfde context van 262K tokens. Omdat OrcaRouter de lijstprijzen van providers doorgeeft met 0% markup, komt een prijswijziging aan de providerzijde dezelfde dag hier door en niet pas bij de volgende catalogusupdate — wat uitmaakt wanneer je een kostenvergelijking maakt tussen een model dat je zelf host en een model dat je huurt. Aan de andere kant van de vergelijking is de dichtstbijzijnde gehoste vervanger voor wat ZwZ2-9B probeert te zijn qwen/qwen3-vl-8b-instruct, een 8B vision-language-model met een context van 131K voor $0,18 en $0,70, dat gedocumenteerd, gelicentieerd en nu beschikbaar is.

Wat zou dit artikel veranderen

Een modelkaart. Specifiek: een licentie, een alinea over trainingsdata, en één evaluatietabel opgesteld door iemand die het model niet heeft getraind. Tot dan is de eerlijke samenvatting van ZwZ2-9B versus Gemma 4 12B niet dat de een beter is. Het is dat de een bestaat als een product en de ander als een bestandslijst, en de kloof tussen die twee dingen is de duurste afstand in machine learning.

Vergelijkingen zoals deze zijn ook waar de faalmodi naar voren komen: de gedocumenteerde AI-incidenten en agent-fouten achter modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwistingsmarkering bevat.