ZwZ2-9B vs Gemma 4 12B: En modell, ett modellkort – och vilken av dem du faktiskt kan skeppa

Gemma 4 12B har varit tillgänglig sedan 23 maj 2026. Den levereras med ett modellkort, en teknisk rapport, en publicerad utvärderingssvit, fem syskonmodeller i olika storlekar och ett nedladdningsantal på Hub som har passerat 79 000 bara under den senaste månaden. ZwZ2-9B har varit tillgänglig sedan 16 oktober 2026 – i dag – som åtta filer i ett repo utan README, utan licensfält och utan pipeline-tagg. Båda är ungefär lika stora. Båda tar emot bilder. Båda anger samma kontexttak på 262 144 positioner. Och de är inte på långa vägar i samma beredskapsläge, vilket är den enda jämförelsen som spelar roll om du ska avgöra var du ska lägga en GPU.

Det korta svaret: Gemma 4 12B är en färdig produkt från Google DeepMind med fem månader där andra redan har stött på dess gränser. ZwZ2-9B är en checkpoint från inclusionAI som ingen utanför labbet har beskrivit ännu, inte ens labbet själva. Om du behöver leverera något den här månaden är valet inte svårt och det är inte en kommentar om vikterna. Om du bestämmer vad du ska prototypa på nästa månad, läs siffrorna nedan och kör sedan din egen utvärdering, för bara en av dessa två modeller har gett dig något att läsa.

De två staplarna, dimension för dimension

• Parametrar — ZwZ2-9B: 9 409 813 744 i bfloat16. Gemma 4 12B: 11,95 miljarder.

• Arkitektur — qwen3_5, en hybrid av linjär och full uppmärksamhet. Gemma: gemma4_unified, encoderfri och enhetlig över modaliteter.

• Lager — 32 i ZwZ2-9B (24 linjära uppmärksamhetslager, 8 fulla uppmärksamhetslager). 48 i Gemma 4 12B (40 glidande fönster vid 1 024 tokens, 8 fulla uppmärksamhetslager).

• Kontextgräns — 262 144 positioner som båda anger.

• Ordförråd — 248 320 mot 262 144, där Gemmas är reserverat för token-id:n för bild, ljud och video.

• Modaliteter i – text, bild och video för ZwZ2-9B. Text, bild, ljud och video för Gemma 4 12B, vars konfiguration har ett 640-dimensionellt ljudtorn.

• Licens — ingen deklarerad vs Apache-2.0.

• Historik — noll nedladdningar och två gillningar mot 79 565 nedladdningar och 790 gillningar den senaste månaden.

Två av dessa rader förtjänar en andra titt eftersom de vänder på en intuition. Den första är uppmärksamhetsschemat: ZwZ2-9B är en modell med 32 lager och 8 lager med full uppmärksamhet, och Gemma 4 12B är en modell med 48 lager och 8 lager med full uppmärksamhet. Båda satsar på att den dyra delen av uppmärksamheten bör vara sällsynt; de är helt enkelt oense om hur sällsynt – ett av fyra lager kontra ett av sex. Den andra är kontexttaket, där en checkpoint på 9.4B utan dokumentation och ett flaggskepp på 11.95B från DeepMind landar på exakt samma siffra 262,144 – vilket är ett sammanträffande i designmålen snarare än något samband mellan de två.

Där Gemma 4 12B inte bara ligger före, utan i en annan kategori

Ljud är det första. Googles modell tar emot ljud nativt, med ett dedikerat ljudtorn och ljudtoken-ID:n i sin vokabulär. ZwZ2-9B:s tokenizer reserverar också <|audio_start|>, <|audio_end|> och <|audio_pad|> — men dess konfiguration innehåller ingen ljudkonfiguration av något slag, så dessa tokens är vokabulär som den ärvde snarare än en förmåga som den har. Om din arbetsbelastning omfattar tal är detta slutet på jämförelsen, och det är värt att vara precis om varför: inte för att ZwZ2-9B presterade sämre, utan för att det inte finns något i checkpointen som kan bearbeta en vågform.

Dokumentationen är den andra, och det är den som ger kumulativ effekt. Gemma 4 12B levereras med en teknisk rapport (arXiv 2607.02770), ett publicerat utvärderingsset som täcker allt från GPQA-liknande resonemang till visionsbenchmarkar, en angiven licens och en notering om att modellen finns i fem storlekar så att du kan avväga kapacitet mot fotavtryck utan att lämna familjen. Runt omkring den visar Hub 83 publicerade finjusteringar, 49 kvantiseringar och 15 Spaces byggda på den. Det ekosystemet är inte dekoration. Det är en samling bevis för hur modellen misslyckas, framtagen av människor som inte är Google, och inget kan ersätta det.

Licensiering är den tredje, och den är den minst glamorösa och den mest avgörande. Gemma 4 12B är Apache-2.0. ZwZ2-9B deklarerar ingen licens alls — varken öppen, anpassad eller något i repositoriets metadata. I avsaknad av en deklaration är den säkra tolkningen att utgivaren har förbehållit sig sina rättigheter, och det är inte en fråga du vill upptäcka att du hade fel om under upphandlingen. En checkpoint som du inte lagligt kan använda är inte billigare än en som du kan.

Det enda stället där ZwZ2-9B har ett strukturellt argument

Det sitter inte i kvaliteten, som ingen kan mäta ännu. Det sitter i hur saken spenderar beräkningskraft, och konfigurationen är ovanligt explicit om det.

Tre fjärdedelar av ZwZ2-9B:s lager är linjär attention – 24 av 32 – och vart och ett bär ett återkommande tillstånd med fast storlek i stället för en nyckel-värde-cache som växer med konversationen. Konfigurationen namnger mekanismen: 16 nyckelhuvuden och 32 värdehuvuden med dimension 128, en konvolutionskärna med bredden 4, och ett tillstånd som hålls i float32 för numerisk stabilitet. Endast vart fjärde lager utför full attention. Gemma 4 12B gör en liknande satsning med en annan mekanism – 40 av dess 48 lager använder ett glidande fönster som är begränsat till 1 024 tokens – så båda modellerna är utformade för att sluta betala kostnaden för full attention på de flesta lager. De skiljer sig åt i grad och i teknik, och utan benchmarks finns det inget ärligt sätt att säga vilken som vinner. Designavsikten går att utläsa; resultatet är inte mätt.

Fotavtrycket är den enkla delen. 9,41 miljarder parametrar mot 11,95 miljarder är ungefär en femtedel mindre vikt att hålla innan du kvantiserar något, och visionstornet är litet — 27 lager med hidden size 1 152 som projicerar in i 4 096 — vilket är anledningen till att modellen bekvämt ryms inom samma klass av hårdvara som skulle köra Gemma 4 12B.

The behavioural difference worth knowing is the reasoning default. ZwZ2-9B's chat template emits an empty <think></think> block unless you explicitly ask for thinking, so it answers directly out of the box. Gemma 4 12B offers thinking modes you configure. For extraction, classification or routing — the jobs where a second pass of reasoning is latency you did not want to pay for — only one of these is cheap by default.

Vad ZwZ2-9B inte kan tala om för dig, och varför det avgör jämförelsen

Du kan inte veta om det är en instruktionstränad modell eller en bascheckpoint, eftersom dess repo varken har README eller pipeline-tagg och båda skulle normalt ange det. Den inbyggda systemprompten som pekar på <answer>-taggar är starkt bevis för en tränad instruktionsmodell, men det är bevis, inte ett uttalande.

Du kan inte veta vad den tränades på, om det finmaskiga perceptionsrecept som gjorde ZwZ-familjen till ett känt namn fördes vidare, eller vad den förväntas vara bra på. Du kan inte veta vilken licens den har. Och du kan inte veta hur den beter sig i gränsfallen, eftersom ingen utanför inclusionAI har kört den.

Ställ det bredvid Gemma 4 12B, och asymmetrin är inte en gradskillnad. Den ena modellen kommer med en teknisk rapport och åtta månaders offentlig användning; den andra kommer med en config.json och en omvänd tänkandestandard. Det är ett skäl att prototypa, inte ett skäl att avfärda — odokumenterade checkpoints är där mycket intressant arbete först dyker upp — men det är ett skäl att vara ärlig med att du själv skulle stå för utvärderingen.

En beslutsregel som inte är beroende av den saknade bevisningen

Välj Gemma 4 12B om något av följande stämmer: du behöver ljudinmatning, du behöver en licens som du kan visa för en advokat, du behöver leverera inom ett kvartal, eller du behöver syskonstorlekar så att samma utvärderingssvit kan överföras upp och ner inom en familj. Alla fyra är avgjorda.

Ta ZwZ2-9B på allvar om du har en specifik fråga som en 9,4B visionsmodell med hybrid-attention och ett standardläge utan resonemang kan svara bättre på än en du redan betalar för, och du är beredd att mäta det själv. Det första du bör testa är inte dess intelligens. Det är om den accepterar bilderna du faktiskt skickar till den, returnerar formatet du faktiskt behöver, och gör det utan att ett licensproblem hänger över resultatet.

Och jämför dem inte i en benchmarktabell, för tabellen har bara en kolumn. Du kan sätta Gemma 4 12B:s publicerade siffror bredvid ett tomt utrymme och kalla det en jämförelse, men det tomma utrymmet är fyndet. Den som den här veckan presenterar ett head-to-head-kvalitetsomdöme om ZwZ2-9B hittar på det.

Ingen av dessa checkpoints finns i vår katalog i dag, så ingen av dem är något du kan anropa via oss just nu – Gemma 4 12B är en nedladdning från Hugging Face och din egen serveringsstack, och detsamma gäller ZwZ2-9B. Det vi däremot tillhandahåller är syskonmodellen som gör att Gemma-jämförelsen kan köras utan att ändra hur du utvärderar något: Gemma 4 26B A4B, mixture-of-experts-medlemmen i samma familj, på en hostad slutpunkt för $0.06 per miljon indatatoken och $0.33 per miljon utdatatoken med samma 262K-tokenkontext. Eftersom OrcaRouter för vidare leverantörernas listpriser med 0 % påslag, slår en prisändring hos leverantören igenom här samma dag i stället för vid nästa kataloguppdatering – vilket spelar roll när det du gör är en kostnadsjämförelse mellan en modell du hostar och en modell du hyr. På andra sidan jämförelsen är den närmaste hostade ersättaren för det ZwZ2-9B försöker vara qwen/qwen3-vl-8b-instruct, en 8B vision-language-modell med 131K kontext för $0.18 och $0.70, som är dokumenterad, licensierad och tillgänglig nu.

Vad skulle ändra den här artikeln

Ett modellkort. Närmare bestämt: en licens, ett stycke om träningsdata och en utvärderingstabell framställd av någon som inte har tränat modellen. Fram till dess är den ärliga sammanfattningen av ZwZ2-9B kontra Gemma 4 12B inte att den ena är bättre. Den är att den ena existerar som en produkt och den andra existerar som en filförteckning, och klyftan mellan dessa två saker är det dyraste avståndet inom maskininlärning.

Jämförelser som den här är också där fellägena visar sig: de dokumenterade AI-incidenterna och agentfelen bakom modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omstridd status.