Granite Switch 4.1 8B vs Gemma 4 12B: Sammansatta specialister eller en enhetlig modell?

Fråga två labb hur man bygger en modell som kan föra en konversation, läsa en skärmbild och transkribera ett röstmeddelande, och du får motsatta svar. Granite Switch 4.1 8B, släppt av IBM den 14 oktober 2026, behåller en fryst 8B-textmodell och fäster små växlingsbara adaptrar på den, så att säkerhetskontrollen, beslutsmodulen och taligenkännaren alla är påbyggnader ovanpå en gemensam stomme. Gemma 4 12B, publicerad av Google den 23 maj 2026, gör det motsatta: en modell med 11,95 miljarder parametrar som tränats från början på text, bilder och ljud, utan separat encoder att koppla in. Båda är Apache-2.0, båda körs på en enda GPU, och de är oense om nästan allt under huven.

Den praktiska versionen, före detaljerna: Gemma 4 12B är det mogna valet för allt som behöver se, eftersom det har varit offentligt i fem månader, har en genuint stor installerad bas, och dess multimodala väg är tränad snarare än ihopfogad. Granite Switch 4.1 8B är det intressanta valet för allt som behöver besluta eller köra en slutpunkt i stället för tre, och det är två dagar gammalt med noll oberoende utvärdering. Det är inte konkurrerande omdömen – de är svar på olika frågor, och resten av den här texten är detaljerna som låter dig avgöra vilken fråga du faktiskt har.

Den arkitektoniska uppdelningen, uttryckt klart

Granite Switch 4.1 8B är en komposition. Basen är Granite 4.1 8B – 40 lager, dold storlek 4 096, 32 query-huvuden mot 8 KV-huvuden, ett fönster på 131 072 tokens, en vokabulär på 100 352 tokens som de två adaptrarna utökar med exakt tre reserverade id:n. Ovanpå det sitter två aktiverade LoRA-adaptrar, guardian-core i rang 16 över attention-projektionerna och decision i rang 64 över alla sju av dem, plus Granite Speech 5.0 TurboCTC, en icke-autoregressiv conformer-kodare med 470M parametrar, för ljudinmatning. Totalt: 8 776 400 896 parametrar mot basens 8 380 551 168 – en ökning på 4,72 % för två adaptrar och en talmodell.

Gemma 4 12B är en enda stack. Konfigurationen kallar den gemma4_unified, och namnet är bokstavligt: bild, ljud och video har alla sina egna token-id:n i en och samma vokabulär med 262 144 token, och kortet beskriver arkitekturen som encoder-fri, vilket innebär att det inte finns något separat visionstorn eller ljudtorn som matar en projektion in i språkmodellen. Den varvar lokal uppmärksamhet med glidande fönster över ett fönster på 1 024 token med full global uppmärksamhet, använder p-RoPE för position och sträcker sig till en 256K-kontext. Apache-2.0, precis som Granite.

• Parametrar — Granite Switch 4.1 8B: 8,78B sammansatt (8,38B bas). Gemma 4 12B: 11,95B.

• Kontext — 131 072 tokens mot 256 000 tokens.

• Vokabulär — 100 355 mot 262 144, där Gemmas är reserverad för bild-, ljud- och videotokens.

• Modaliteter i — text och ljud vs text, bild, ljud och video.

• Modaliteter ut — endast text vs endast text.

• Specialiserade huvuden — en kalibrerad beslutsfördelning och en säkerhetsklassificerare mot ingen; Gemma svarar, den poängsätter inte alternativetiketter.

• Licens — Apache-2.0 båda.

Där Gemma 4 12B vinner överlägset

Vision är inte i närheten. Gemma 4 12B läser bilder nativt; Granite Switch 4.1 8B har ingen bildväg alls. Om din pipeline tar in skärmbilder, PDF:er, diagram eller UI-avbildningar, är det slutet på jämförelsen — ingen mängd adapterfiffighet ersätter en modalitet som checkpointen inte accepterar.

Track record är den andra. Gemma 4 12B har funnits på Hub sedan 23 maj 2026 och dess instruct-syskon har passerat 1,6 miljoner nedladdningar; enbart bas-checkpointen ligger över 79 000. Båda siffrorna är nedladdningsantal från Hub snarare än användningssiffror, så de överdriver den verkliga driftsättningen, men riktningen är entydig: det finns en stor grupp människor som redan har stött på dess felmoder och skrivit om dem. Granite Switch 4.1 8B är vid tidpunkten för skrivandet två dagar gammal med några dussin nedladdningar och en handfull gillamarkeringar. Fem månader av offentliga buggrapporter är en tillgång du inte kan köpa, och det är det enskilt starkaste argumentet för Gemma på en produktionsväg detta kvartal.

Kontextlängden är den tredje, och den är den tysta. 256K mot 131 072 är inte en marknadsföringsskillnad när du matar in långa dokument. Ingen av modellerna behöver en kringlösning för en typisk chattarbetsbelastning, men bara en av dem klarar en kontext i repositoriestorlek utan sharding.

Där Granite Switch 4.1 8B vinner överlägset

Beslutsadaptern är en förmåga som den andra modellen helt enkelt inte har. Ge den ett tillstånd och en fråga med märkta alternativ och den returnerar en kalibrerad softmax över dessa etiketter i en enda framåtpassning — det dokumenterade anropet ber vLLM om logprobs för exakt etikettens token-id:n och exponentierar dem, vilket ger utdata i form av A: 0.982, B: 0.0035, C: 0.014. En allmän modell kan via prompt uppmanas att välja en etikett, men promptning producerar en token, inte en distribution som du kan tröskla, jämföra mellan turer eller logga som en kalibrerad poäng. För routningslogik, triage, eskaleringströsklar och allt som behöver ett konfidensvärde snarare än ett svar, är det en annan typ av utdata.

Konsolidering till en enda slutpunkt är den andra. Taltranskribering körs på samma slutpunkt som chatt och beslut; du skickar en input_audio innehållsdel i en vanlig chattkomplettering och 470M-kodaren transkriberar den innan texten fogas in i kontexten. Ingen andra server, inget orkestreringslager, ingen separat ASR-faktura. Gemma 4 12B tar också emot ljud, så detta är inte en kapacitetslucka – det är en skillnad i driftsättningsform, och det spelar bara roll om du annars skulle köra en separat taltjänst vid sidan av LLM:en.

Fotavtrycket är det tredje. 8,78B mot 11,95B är ungefär en fjärdedel mindre vikt att hålla, och designen med delad KV-cache innebär att adaptrarna inte var och en bär sitt eget attention-tillstånd. IBM hävdar att den sammansatta modellen tar ungefär lika mycket VRAM som enbart basmodellen; just det påståendet är inte reproducerat, men parameterdeltat på 4,72 % bakom det är ett faktum från byggmanifestet.

De två påståendena på Granite-sidan som ännu inte är fakta

Det publicerade Decision Index-numret för beslutsadaptern är 42,9 totalt på den offentliga snabba delmängden edition-v0.3 med 1 068 rader, med poäng per område: Kunskap 29,1, Språk 48,9, Sökning 49,8, Verktyg 59,8 och Konst 18,0. IBM genomförde den utvärderingen och IBM publicerade den. Ingen annan har reproducerat den, och det finns överhuvudtaget ingen tredjepartspost på resultattavlan för Granite Switch. Läs även formen: 59,8 på Verktyg bredvid 18,0 på Konst är en specialistprofil, inte en generell kompetenspoäng, och kortet säger uttryckligen att man ska behandla alternativsannolikheterna som en prior snarare än en certifierad klassificering på domäner som adaptern inte tränades för.

Det andra är talvägen, och det är det påstående som mest sannolikt övertolkas. Inkodaren är endast engelsk, dess utdata är gemener och utan skiljetecken, och – med IBM:s egna ord i modellkortet – är talinkodaren och LLM:en inte gemensamt tränade; det finns ingen tränad projektion som kopplar dem. Gemma 4 12B:s ljudväg tränades som en del av modellen. Det är den verkliga skillnaden, och den överlever allt prat om slutpunktskonsolidering: ett system har en tränad koppling mellan ljud och betydelse, det andra har en transkription som skarvats in i en prompt av en komponent som aldrig optimerades för att arbeta med det som läser den.

Kör dem sida vid sida

Båda checkpoints är nedladdningsbara, båda är Apache-2.0, och den ärliga formuleringen är att de hör hemma i olika fack snarare än i en bake-off. Gemma 4 12B är det du tar till när indata innehåller pixlar. Granite Switch 4.1 8B är det du tar till när utdata behöver vara en sannolikhet, eller när du vill att en och samma endpoint ska sköta chatt, beslut och transkribering och är beredd att acceptera att transkriberingshalvan är en skarv snarare än en tränad väg.

Om du ska jämföra de två, gör det utan att bygga om din stack. OrcaRouter exponerar över 200 modeller bakom en enda API-nyckel med automatisk failover och för vidare leverantörens listpris med 0 % påslag, så en prisändring hos leverantören slår igenom här samma dag i stället för vid nästa kataloguppdatering. img src="4.png" alt="En skärmbild av OrcaRouters modellsida för Gemma 4 26B A4B, som visar modellen taggad med Vision, Tools, JSON och Reasoning med en kontext på 262K tokens, inmatning av text, bild och video, Googles releasedatum 2026-04-03, ett pris per miljon tokens på 0,06 USD för indata och 0,33 USD för utdata, en p50-tid till första token på 2,74 sekunder, samt introduktionstext som beskriver Gemma 4 26B A4B IT som en instruktionstränad mixture-of-experts-modell med 25,2B parametrar totalt, varav 3,8B aktiveras per token." /> Ingen av dessa två checkpoints finns i vår katalog i dag, och vi tänker inte låtsas något annat — Granite Switch är en nedladdning från Hugging Face och en vLLM-container, och Gemma 4 12B är samma sak. Poängen med att lägga en kandidat bakom en enda nyckel är att när den väl blir tillgänglig kostar en jämförelse mot den nuvarande modellen på din egen trafik en modellsträng, inte en migrering. Tänk på några av de modeller vi faktiskt erbjuder, som Gemma 4 26B A4B, som en brygga: den tillhör samma familj som modellen du utvärderar, på en hostad endpoint, i dag.

Vilken, för vem

Välj Gemma 4 12B om din arbetsbelastning innehåller pixlar, om 256K-kontexten är bärande, eller om du levererar i det här kvartalet och vill ha fem månader av andras misstag mellan dig och produktionen. Välj Granite Switch 4.1 8B om du behöver en kalibrerad fördelning över märkta alternativ i stället för ett svar, om att slå ihop chatt, beslut och tal till en enda slutpunkt tar bort en tjänst från din arkitektur, eller om du är den typen av team som vill läsa build-manifestet och komponera en egen variant – composern är offentlig och adapterkatalogen är öppen.

Använd inte Granite Switch 4.1 8B för vision. Den har ingen sådan förmåga. Och döm inte någon av dem utifrån ett benchmarkvärde som du inte själv har kört, eftersom den enda beslutsgrundande poängen i den här jämförelsen är en leverantörsrapporterad sådan utan en andra bedömning bakom sig – vilket är ett uttalande om bevisläget, inte om modellen.