Granite Switch 4.1 8B vs Gemma 4 12B: Samengestelde specialisten of één uniform model?

Vraag twee labs hoe je een model bouwt dat een gesprek kan voeren, een schermafbeelding kan lezen en een spraakbericht kan transcriberen, en je krijgt tegenstrijdige antwoorden. Granite Switch 4.1 8B, uitgebracht door IBM op 14 oktober 2026, houdt een bevroren 8B-tekstmodel aan en hangt er kleine, schakelbare adapters aan, zodat de veiligheidscontroleur, de beslissingsengine en de spraakherkenner allemaal aanbouwmodules zijn bovenop één gedeelde backbone. Gemma 4 12B, gepubliceerd door Google op 23 mei 2026, doet het tegenovergestelde: één model met 11,95 miljard parameters dat vanaf het begin is getraind op tekst, afbeeldingen en audio, zonder aparte encoder om aan te sluiten. Beide zijn Apache-2.0, beide draaien op één GPU, en ze zijn het over bijna alles onder de motorkap oneens.

De praktische versie, vóór de details: Gemma 4 12B is de volwassen keuze voor alles wat moet kunnen zien, want het is al vijf maanden publiek beschikbaar, heeft een echt grote installatiebasis, en zijn multimodale pad is getraind in plaats van aan elkaar geregen. Granite Switch 4.1 8B is de interessante keuze voor alles wat moet kunnen beslissen of één endpoint draaien in plaats van drie, en het is twee dagen oud met nul onafhankelijke evaluatie. Dat zijn geen concurrerende oordelen — het zijn antwoorden op verschillende vragen, en de rest van dit stuk is het detail waarmee je kunt bepalen welke vraag je eigenlijk hebt.

De architectonische splitsing, eenvoudig gezegd

Granite Switch 4.1 8B is een compositie. De basis is Granite 4.1 8B — 40 lagen, hidden size 4.096, 32 query-heads tegenover 8 KV-heads, een venster van 131.072 tokens, een vocabulaire van 100.352 tokens dat de twee adapters met precies drie gereserveerde id's uitbreiden. Daarbovenop zitten twee geactiveerde LoRA-adapters, guardian-core met rang 16 over de attention-projecties en decision met rang 64 over alle zeven daarvan, plus Granite Speech 5.0 TurboCTC, een niet-autoregressieve conformer-encoder met 470M parameters, voor audio-invoer. Totaal: 8.776.400.896 parameters tegenover de 8.380.551.168 van het basismodel — een toename van 4,72% voor twee adapters en een spraakmodel.

Gemma 4 12B is één enkele stack. De configuratie noemt het gemma4_unified, en de naam is letterlijk: afbeelding, audio en video hebben allemaal hun eigen token-id's binnen één vocabulaire van 262.144 tokens, en de kaart beschrijft de architectuur als encoder-vrij, wat betekent dat er geen aparte visietoren of audiotoren is die een projectie in het taalmodel invoert. Het wisselt lokale sliding-window-aandacht over een venster van 1.024 tokens af met volledige globale aandacht, gebruikt p-RoPE voor positie, en strekt zich uit tot een context van 256K. Apache-2.0, net als de Granite.

• Parameters — Granite Switch 4.1 8B: 8,78B samengesteld (8,38B basis). Gemma 4 12B: 11,95B.

• Context — 131.072 tokens vs 256.000 tokens.

• Vocabulaire — 100.355 vs 262.144, waarbij die van Gemma zijn gereserveerd voor afbeeldings-, audio- en videotokens.

• Modaliteiten in — tekst en audio vs tekst, afbeelding, audio en video.

• Modaliteiten uit — alleen tekst versus alleen tekst.

• Gespecialiseerde heads — een gekalibreerde beslissingsverdeling en een veiligheidsclassifier versus geen enkele; Gemma geeft antwoorden, het scoort geen optielabels.

• Licentie — Apache-2.0 beide.

Waar Gemma 4 12B overtuigend wint

Vision komt niet in de buurt. Gemma 4 12B leest afbeeldingen native; Granite Switch 4.1 8B heeft helemaal geen pad voor afbeeldingen. Als je pipeline screenshots, PDF's, grafieken of UI-opnames verwerkt, is dat het einde van de vergelijking — geen enkele mate van adapter-vernuft vervangt een modaliteit die het checkpoint niet accepteert.

Het trackrecord is de tweede. Gemma 4 12B staat sinds 23 mei 2026 op de Hub en het instruct-zusje heeft de 1,6 miljoen downloads gepasseerd; het base-checkpoint alleen al zit boven de 79.000. Beide cijfers zijn downloadaantallen van de Hub, geen gebruikscijfers, dus ze overschatten de werkelijke uitrol, maar de richting is ondubbelzinnig: er is een grote groep mensen die al tegen de faalmodi zijn aangelopen en erover hebben geschreven. Granite Switch 4.1 8B is op het moment van schrijven twee dagen oud, met enkele tientallen downloads en een handvol likes. Vijf maanden openbare bugrapporten is een troef die je niet kunt kopen, en het is het allersterkste argument voor Gemma op een productietraject dit kwartaal.

Contextlengte is de derde, en het is de stille. 256K tegenover 131.072 is geen marketingverschil wanneer je lange documenten invoert. Geen van beide modellen heeft een workaround nodig voor een typische chatworkload, maar slechts één ervan kan een context op repositoryschaal aan zonder sharding.

Waar Granite Switch 4.1 8B overtuigend wint

De decision adapter is een capaciteit die het andere model simpelweg niet heeft. Geef het een toestand en een vraag met gelabelde opties, en het retourneert een gekalibreerde softmax over die labels in één forward pass — de gedocumenteerde aanroep vraagt vLLM om de logprobs van precies de token-id's van de labels en exponentieert ze, wat uitvoer oplevert in de vorm A: 0.982, B: 0.0035, C: 0.014. Een algemeen model kan via een prompt een label laten kiezen, maar prompten levert een token op, geen distributie die je kunt drempelen, over beurten heen kunt vergelijken of als gekalibreerde score kunt loggen. Voor routeringslogica, triage, escalatiedrempels en alles waarvoor een betrouwbaarheidswaarde nodig is in plaats van een antwoord, is dat een andere klasse van uitvoer.

Consolidatie naar één endpoint is het tweede. Spraaktranscriptie draait op hetzelfde endpoint als chat en beslissingen; je stuurt een input_audio content-onderdeel mee in een normale chat-completion en de 470M-encoder transcribeert het voordat de tekst in de context wordt ingevoegd. Geen tweede server, geen orchestratielaag, geen aparte ASR-factuur. Gemma 4 12B ondersteunt ook audio, dus dit is geen gat in de mogelijkheden — het is een verschil in deploymentvorm, en het is alleen van belang als je anders een aparte spraakdienst naast het LLM zou draaien.

Voetafdruk is de derde. 8,78B tegen 11,95B is ruwweg een kwart minder gewicht om vast te houden, en het ontwerp met gedeelde KV-cache betekent dat de adapters niet elk hun eigen attention-state meedragen. IBM beweert dat het samengestelde model ongeveer evenveel VRAM inneemt als het basismodel alleen; die specifieke bewering is niet gereproduceerd, maar de parameterdelta van 4,72% erachter is een feit uit het buildmanifest.

De twee beweringen aan de kant van Granite die nog geen feiten zijn

Het gepubliceerde Decision Index-cijfer voor de decision-adapter is 42,9 overall op de edition-v0.3 publieke fast-subset van 1.068 rijen, met per-gebied scores van Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 en Arts 18,0. IBM heeft die evaluatie uitgevoerd en IBM heeft die gepubliceerd. Niemand anders heeft die gereproduceerd, en er is helemaal geen vermelding voor Granite Switch op een leaderboard van derden. Let ook op de vorm: 59,8 op Tools naast 18,0 op Arts is een specialistenprofiel, geen algemene competentiescore, en de kaart zegt expliciet dat je de optiekansen als een prior moet behandelen in plaats van als een gecertificeerde classificatie op domeinen waarvoor de adapter niet is getraind.

De tweede is het spraakpad, en het is de bewering die het vaakst te ruim wordt geïnterpreteerd. De encoder is uitsluitend Engelstalig, de uitvoer is in kleine letters en zonder leestekens, en — in IBM's eigen woorden in de modelkaart — de spraakencoder en het LLM zijn niet gezamenlijk getraind; er is geen getrainde projectie die hen koppelt. Het audiopad van Gemma 4 12B is getraind als onderdeel van het model. Dat is het echte verschil, en het blijft overeind bij alle praat over endpoint-consolidatie: het ene systeem heeft een getrainde koppeling tussen klank en betekenis, het andere heeft een transcript dat door een component in een prompt is geplakt die nooit is geoptimaliseerd om samen te werken met het ding dat het leest.

Ze naast elkaar laten draaien

Beide checkpoints zijn downloadbaar, beide zijn Apache-2.0, en de eerlijke manier om het te framen is dat ze op verschillende plekken thuishoren in plaats van in een bake-off. Gemma 4 12B is waar je naar grijpt wanneer de invoer pixels bevat. Granite Switch 4.1 8B is waar je naar grijpt wanneer de uitvoer een waarschijnlijkheid moet zijn, of wanneer je één endpoint wilt dat chat, beslissingen en transcriptie doet en bereid bent te accepteren dat de transcriptiehelft een samenvoeging is in plaats van een getraind pad.

Als je de twee benchmarkt, doe dat dan zonder je stack opnieuw te herbedraden. OrcaRouter stelt meer dan 200 modellen beschikbaar achter één API-sleutel met automatische failover en geeft de listprijs van de provider door met 0% opslag, zodat een prijswijziging aan de providerkant hier dezelfde dag doorwerkt in plaats van bij de volgende catalogusupdate. img src="4.png" alt="Een schermafbeelding van de OrcaRouter-modelpagina voor Gemma 4 26B A4B, met het model getagd als Vision, Tools, JSON en Reasoning met een context van 262K tokens, tekst-, afbeeldings- en video-invoer, een Google-releasedatum van 2026-04-03, een prijs per miljoen tokens van $0,06 voor invoer en $0,33 voor uitvoer, een p50-tijd-tot-eerste-token van 2,74 seconden, en inleidende tekst die Gemma 4 26B A4B IT beschrijft als een op instructies afgestemd mixture-of-experts-model met 25,2B totale parameters, waarvan 3,8B per token actief worden." /> Geen van deze twee checkpoints staat vandaag in onze catalogus, en we gaan niet doen alsof dat anders is — Granite Switch is een Hugging Face-download en een vLLM-container, Gemma 4 12B is hetzelfde. Het punt van het achter één sleutel zetten van een kandidaat is dat wanneer die beschikbaar komt, het vergelijken met het gevestigde model op je eigen verkeer alleen een model-string kost, geen migratie. Denk aan enkele van de modellen die we wel serveren, zoals Gemma 4 26B A4B, als de brug: het is dezelfde familie als het model dat je evalueert, op een gehost endpoint, vandaag.

Welke, voor wie

Kies Gemma 4 12B als je workload pixels bevat, als 256K context cruciaal is, of als je deze kwartaal uitlevert en vijf maanden aan fouten van anderen tussen jou en productie wilt. Kies Granite Switch 4.1 8B als je een gekalibreerde distributie over gelabelde opties nodig hebt in plaats van een antwoord, als het samenbrengen van chat, beslissingen en spraak op één endpoint een service uit je architectuur haalt, of als je het soort team bent dat het buildmanifest wil lezen en je eigen variant wil samenstellen — de composer is openbaar en de adaptercatalogus is open.

Kies Granite Switch 4.1 8B niet voor vision. Het heeft er geen. En ga voor geen van beide af op een benchmarkcijfer dat je niet zelf hebt gedraaid, want de enige beslissende score in deze vergelijking is een door de leverancier gerapporteerde score zonder tweede mening erachter — wat een uitspraak is over de stand van het bewijs, niet over het model.