Gemma 4 12B: Inuti Googles encodersfria 12B-modell

Gemma 4 12B är den mellanstora medlemmen i Gemma 4-familjen från DeepMind: en tät modell med öppna vikter på 11,95 miljarder parametrar som läser text, bilder, ljud och videoramar och skriver text, och vars avgörande konstruktionsbeslut är att den inte har några multimodala kodare alls. Den ligger mellan den edge-fokuserade Gemma 4 E4B och den större, glesare Gemma 4 26B A4B. Lanseringsnoteringen beskriver dess uppgift som att föra agentiskt multimodalt arbete till en bärbar dator – resonemang, verktygsanvändning, kodning och dokument- eller skärmförståelse som körs på maskinen framför dig i stället för över en mätad anslutning. Det är också den storlek som står för hela den här familjens aktiva närvaro på vår egen webbplats: tre jämförelsesidor handlar om den, och fram till den här fanns ingen sida om själva modellen.

Den inversionen är värd att nämna redan från början, eftersom den förklarar formen på allt nedan. Läsare kommer inte till Gemma 4 12B på samma sätt som de kommer till en flaggskeppsmodell. De kommer in från sidan, oftast från en jämförelsesida, ofta för att den egentliga frågan är vilken storlek av Gemma 4 – och de vill veta vad vänster sida av jämförelsen faktiskt är innan de lägger en nedladdning på den. De sökningar vi mäter för detta namn är till övervägande del jämförande; den enskilda termen i sig är tunn. Så det här är en referenssida: vad 12B är, vad dess modellkort anger, vad som krävs för att köra den, vad dess licens tillåter, och vilken av de tre befintliga jämförelserna som redan avgör frågan du kom med.

Det är inte en lanseringsartikel, och den bör inte läsas som en sådan. Gemma 4 12B släpptes den 3 juni 2026 — 132 dagar före den här sidan — och inget med modellen förändrades under de sju dagarna före publiceringen. Det datumet kommer från tillverkarens egen versionsinformation, och det används här för att placera modellen i tiden snarare än för att tillkännage den.

Vad 12B är, och var det skiljer sig från 26B A4B

Gemma 4-familjen har fem storlekar, och de är inte fem punkter på en linje. Modellkortet listar dem som E2B, E4B, 12B Unified, 26B A4B och 31B, och de delas upp över två arkitekturer: tre täta modeller och en mixture-of-experts, där E-storlekarna använder inbäddningar per lager för att krympa det som faktiskt körs på en enhet.

Gemma 4 12B är en dense-modell. Modellkortet anger 11.95B parametrar totalt över 48 lager, med ett glidande fönster på 1 024 token och en kontext på 256K token. Gemma 4 26B A4B är däremot familjens mixture-of-experts: 25.2B parametrar totalt men bara 3.8B aktiva per token, fördelade över 30 lager med 8 aktiva experter av 128 plus en delad expert. Det där "A":et är hela poängen med namnet – modellen bär 26B i vikter och betalar för ungefär 4B av dem vid varje framåtpassning, vilket är varför modellkortet beskriver den som att den kör nästan lika snabbt som en 4B-modell samtidigt som den rymmer långt mycket mer kunskap.

Så den ärliga skillnaden på en rad är den här. 26B A4B är storleken du väljer när du vill ha mest kapacitet per latensenhet och du har en arbetsstation eller server att köra den på. 12B är storleken du väljer när maskinen är en bärbar dator och budgeten är 16 GB minne. Lanseringsnoten beskriver 12B som bron mellan E4B och 26B A4B, och specifikationsbladet bekräftar det.

Den mer intressanta skillnaden är arkitektonisk, och det är anledningen till att 12B betecknas "Unified" snarare än bara "Dense". Alla andra multimodala modeller i familjen dirigerar bilder och ljud genom dedikerade kodare innan resultatet överlämnas till språkmodellen – kortet listar en visionskodare på ~150M och en ljudkodare på ~300M för E-storlekarna, samt en visionskodare på ~550M på både 31B och 26B A4B. 12B har ingen av dem; kolumnen för parametrar för visions- och ljudkodare för 12B står som ett streck i båda fallen.

Det som ersatte dem är litet. Lanseringsinlägget beskriver vision som en lättviktig inbäddningsmodul – en enda matrismultiplikation plus positionsinbäddning och normalisering – och ljud som att man tar bort kodaren helt och projicerar den råa signalen till samma dimensionsutrymme som texttokens. Råa bildpatchar och ljudvågformer går direkt in i en enda decoder-only-transformer. Den angivna vinsten är lägre multimodal latens och möjligheten att finjustera hela saken i ett enda pass, över modaliteter, med en enda adapter i stället för en per kodare.

Det är också därför 12B är den första mellanstora Gemma med inbyggd ljudinmatning. På kortet är "Text, Bild, Ljud" modalitetsraden för E2B, E4B och 12B; 31B och 26B A4B är endast markerade med "Text, Bild".

Specifikationen, så som modellkortet anger den.

Allt i det här avsnittet kommer från modellkortet för Gemma 4 på ai.google.dev, som täcker hela familjen snarare än enbart 12B. Där modellkortet är tyst är detta noterat i stället för att fyllas i.

• Kontextlängd — 256K tokens på 12B. Kortet noterar uppdelningen uttryckligen: de små modellerna (E2B, E4B) får 128K, de medelstora modellerna (12B, 26B A4B, 31B) får 256K.

• Modalitet — text-, bild- och ljudinmatning; textutmatning. Kortet listar video som en familjekapacitet som bearbetas som sekvenser av bildrutor och beskriver bildinmatning vid variabelt bildförhållande och upplösning över alla storlekar.

• Totalt antal parametrar — 11,95B, tät, 48 lager. Kortet anger ingen siffra för aktiva parametrar eftersom det inte finns några experter att aktivera.

• Glidande fönster — 1 024 tokens, dubbelt så många som de 512 som E-storlekarna använder.

• Ordförråd — 262K, gemensamt för alla fem storlekarna.

• Attention — en hybrid som varvar lokal attention med glidande fönster och full global attention, där det sista lagret alltid är globalt. Globala lager använder enhetliga nycklar och värden plus proportionell RoPE för att hålla nere minnesanvändningen vid lång kontext.

• Språk — förtränad på 140+ språk, med kortet som uppger stöd för 35+ direkt ur lådan.

Två siffror värda att stämma av, för de ser ut som en motsägelse men är inte det. Modellkortet anger 256K tokens; Artificial Analysiss modellsida för Gemma 4 12B anger 262k. Det är samma siffra skriven på två sätt – 262 144 tokens är 256K – och kortets 262K-siffra för ordförrådet som står intill är det som får paret att se motsägelsefullt ut vid en snabb blick.

På benchmarks publicerar kortet en familjetabell för de instruktionstränade checkpoints, och dessa är leverantörsrapporterade siffror, inte oberoende sådana. För Gemma 4 12B listar kortet 77,2 % på MMLU Pro, 78,8 % på GPQA Diamond, 77,5 % på AIME 2026 utan verktyg, 72,0 % på LiveCodeBench v6, ett Codeforces ELO på 1659, 69,1 % på MMMU Pro och 43,4 % på MRCR v2 vid 128K med åtta nålar. Samma tabell placerar Gemma 4 26B A4B på 82,6 % MMLU Pro, 88,3 % AIME, 77,1 % LiveCodeBench och 44,1 % MRCR — före på de flesta rader, vilket är vad man kan förvänta sig av den större modellen, och tillräckligt nära på några för att storleksgapet inte är hela historien.

Den oberoende bedömningen, från Artificial Analysis, är en enda rubrik: en Intelligence Index-poäng på 14, rankad 20:e av 141 modeller i sin jämförelseklass, med en uppmätt utdatahastighet på 110,9 tokens per sekund och en blandad kostnad på 0,10 USD per miljon indata-tokens och 0,30 USD per miljon utdata. Dessa kostnadssiffror är en median över tredjepartsplattformar som tillhandahåller de öppna vikterna, inte ett listpris från leverantören — detta är värt att vara precis om, eftersom leverantören inte publicerar något pris per token för 12B på modellkortet överhuvudtaget.

Att köra det: vad det faktiskt behöver

Lanseringsinlägget anger huvudkravet direkt: 12B är "tillräckligt litet för att köras lokalt med bara 16 GB VRAM eller enhetligt minne." De kvantiseringsstorlekar som publicerats för den gör det konkret.

• Full precision – den instruktionsjusterade checkpointen på Hugging Face är en enda safetensors-fil på 23,92 GB. I bfloat16 är det den råa viktstorleken, före någon KV-cache, så en maskin med 16 GB kan inte rymma den och ett 24 GB-kort ligger på gränsen.

• Leverantörens egna kvantiserade byggen — eftersom 12B levererades med kvantiseringsmedveten träning snarare än bara en efterhandskvantisering. Leverantören publicerar en QAT-GGUF på cirka 6,98 GB för vikterna plus en multimodal projektionsfil på 0,18 GB, och ett QAT-bygge med komprimerade tensorer (w4a16) på 10,26 GB. Det finns också en okvantiserad QAT-checkpoint som publicerats specifikt som basen att finjustera från innan omkvantisering.

• Community GGUF – den vida speglade Unsloth-bygget sträcker sig från cirka 4,2 GB vid den mest aggressiva 2-bitarsvarianten till 6,38 GB vid IQ4_XS, 7,12 GB vid Q4_K_M, 8,41 GB vid Q5_K_M och 12,67 GB vid Q8_0. LM Studio-spegeln publicerar Q4_K_M på 7,38 GB, Q6_K på 9,79 GB och Q8_0 på 12,67 GB, var och en med samma projektionsfil på 0,18 GB.

• MLX — en 8-bitars kvantiserad byggversion för Apple silicon landar på omkring 12,7 GB fördelat över tre filer; en communitybyggd 4-bitarsversion av en finjusterad kodningsmodell hamnar på nära 6,7 GB.

Läst tillsammans är det det praktiska svaret på "får det plats". En 4-bitarsversion av Gemma 4 12B på cirka 7 GB är den version som gör att en 16GB-laptop fungerar, precis som tillverkaren hävdar. Om du vill ha modellen okvantiserad är målet ett 24GB-kort eller mer, och om du vill ha hela 256K-kontexten behöver du utrymme utöver modellvikternas minnesavtryck för cachen.

Två saker som källorna inte ger dig, och som den här sidan inte kommer att hitta på. Det finns ingen genomströmningssiffra publicerad av leverantören för lokal inferens – de 110,9 tokens per sekund från Artificial Analysis är en hostad mätning på tredjepartsinfrastruktur, inte en laptopsiffra, och de två är inte utbytbara. Och det finns ingen publicerad tabell över minsta RAM per kvantisering; storlekarna ovan är filstorlekar, vilket är ett golv, inte ett krav.

Det som modellkortet faktiskt dokumenterar är den omgivande verktygskedjan snarare än någon enskild välsignad runtime: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM och Unsloth för inferens och finjustering, med LM Studio, Ollama och LiteRT-LM som de paketerade lokala vägarna, och vikterna på Hugging Face och Kaggle. 12B levereras också med drafters för multi-token-prediction, publicerade som separata assistent-checkpoints – en liten extra nedladdning som byter minne mot latens.

Ett routingfaktum, uttalat rakt ut eftersom det är den typ av sak som en jämförelsesida lämnar otydlig: Gemma 4 12B är inte en modell som OrcaRouter tillhandahåller, oavsett stavning — inte enbart namnet, inte en daterad variant, inte en kvantiserad sådan. De Gemma 4-storlekar som vi faktiskt dirigerar är 26B A4B och 31B. Så om du vill anropa den här modellen är egen hostning av vikterna eller en tredjepartsvärd som tillhandahåller dem vägen; om du hellre inte kör den själv är nästa ärliga steg att kontrollera om en annan storlek i familjen ger dig det du behövde.

Licensen, specifikt för den här storleken

Gemma 4-modellkortet anger licensen som Apache 2.0 och länkar till Gemma 4-licenssidan, som tillhandahåller Apache 2.0-texten – standardlicensen Apache, utan användningstak, utan tröskel för månatligt aktiva användare och utan separat kommersiell nivå. Hugging Face-repositoriet för den instruktionstränade 12B-checkpointen innehåller samma deklaration i sin metadata och pekar på samma licens-URL. Så för den här storleken har licensfrågan ett kort svar: använda den, ändra den, distribuera den, kommersiellt eller på annat sätt, enligt Apache 2.0-villkoren.

Två kompletterande dokument finns vid sidan av den och är värda att känna till snarare än att förväxla med licensen. Leverantören publicerar en sida med Gemma Terms of Use och en Gemma Prohibited Use Policy. Policyn för förbjuden användning är ett dokument om beteende som listar kategorier av utdata som modellerna inte får användas för att generera. Det är en policy, inte en licensbegränsning för vikterna — vikterna i sig är Apache 2.0, vilket är det som överhuvudtaget gör community-derivat av den här modellen möjliga. Om du vidaredistribuerar Gemma 4 12B eller en finjusterad version av den, är det licensen som styr din vidaredistribution; policyn är det som styr godtagbar användning.

Den åtskillnaden besvarar frågan som ekosystemet av gemenskapsderivat väcker, utan att någons beteende behöver karakteriseras. Eftersom vikterna är öppna under en tillåtande licens kan tredje parter publicera finjusteringar och kvantiseringar av 12B – och det gör de också: abliterade varianter, domänfinjusteringar, alternativa kvantiseringsrecept. Det licensen tillåter är vidaredistribution av dessa derivat; licensen är också anledningen till att de finns.

De tre jämförelserna som den här sidan ligger bakom

Alla tre live-sidor under den här stammen är matchningar, och var och en besvarar redan en annan fråga. Den här sidan dömer inte mellan någon av dem – den är själva saken de beskriver.

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — avgör vad som händer när båda alternativen är leverantörens och axeln är hur du betalar: en modell du laddar ner under Apache 2.0 mot den billigaste avgiftsbelagda nivån i det värdbaserade API:et.

• Gemma 4 12B mot GLM 5.2 — avgör den vilt asymmetriska matchningen: en encoder-fri 12B-modell som du kör på en laptop mot en mixture-of-experts med öppna vikter och 744B parametrar, byggd för långsiktig agentisk kodning till ett mångdubbelt högre pris.

• Gemma 4 12B mot Qwen3.8 Max — avgör direkt frågan om på enheten kontra hyrd: en maskin på ditt skrivbord mot samma labbs flaggskepp som serveras per token.

Om det du egentligen vill ha är en av de andra Gemma 4-storlekarna i stället för ännu en 12B-matchning, är sidan som täcker alla fem på en gång familjehubben, där E2B, E4B, 26B A4B och 31B beskrivs tillsammans. Och om du redan har bestämt att 12B inte är rätt storlek, är modellerna som den oftast jämförs med – GLM 5.2, Qwen3.8 Max och Gemini 3.5 Flash-Lite – alla nåbara via OrcaRouter med en enda nyckel, med 0 % påslag på leverantörens eget listpris, så en leverantörsprissänkning landar här samma dag som den tillkännages.

Vad är inte avgjort

Två luckor är värda att nämna i stället för att sopa under mattan. Benchmarktabellen ovan är rapporterad av leverantören – leverantörens eget kort och utvärderingsupplägg – och även om Artificial Analysis sedan dess har betygsatt modellen oberoende till ett Intelligence Index på 14, finns det ingen bred oberoende replikering av siffrorna för enskilda benchmarks, så betrakta siffrorna på radnivå som påståenden. Och det finns ingen publicerad minnestabell per kvantisering för 12B, vilket innebär att raden "16GB räcker" är ett leverantörspåstående med filstorlekar som stöder det, inte en uppmätt konfiguration som du kan kopiera.

Modellen i sig är lätt att placera: en Apache 2.0-licensierad, encoderfri multimodell med 12B parametrar, daterad till den 3 juni 2026, som kommer att köras på en laptop i 4-bit och är den minsta Gemma 4-storleken med inbyggt ljud. Vad den inte är är en modell med en hostad förstapartstaxa, vilket är anledningen till att det praktiska beslutet kring den i första hand är ett hårdvarubeslut och i andra hand ett prisbeslut.

Om du har hamnat här från en matchning och matchningen inte är den du behövde, är nästa sida jämförelsen som matchar din fråga, och i annat fall den bredare Gemma 4-familjen – 12B är en av fem storlekar, och storleken du faktiskt vill ha kan vara 26B A4B som du kan anropa idag eller 31B som du kan köra i toppen av familjens storleksspann.