Granite Switch 4.1 8B vs. Gemma 4 12B: Zusammengesetzte Spezialisten oder ein einheitliches Modell?

Fragt man zwei Labore, wie man ein Modell baut, das ein Gespräch führen, einen Screenshot lesen und eine Sprachnachricht transkribieren kann, erhält man gegensätzliche Antworten. Granite Switch 4.1 8B, veröffentlicht von IBM am 14. Oktober 2026, behält ein eingefrorenes 8B-Textmodell bei und hängt kleine, umschaltbare Adapter daran, sodass der Sicherheitsprüfer, die Entscheidungsmaschine und der Spracherkenner alle als Anbauten über einem gemeinsamen Backbone fungieren. Gemma 4 12B, veröffentlicht von Google am 23. Mai 2026, macht das Gegenteil: ein einziges Modell mit 11,95 Milliarden Parametern, das von Anfang an über Text, Bilder und Audio hinweg trainiert wurde, ohne separaten Encoder, der eingebunden werden müsste. Beide stehen unter Apache-2.0, beide laufen auf einer einzigen GPU, und sie sind sich in fast allem, was darunter liegt, uneinig.

Die praktische Version, vor dem Detail: Gemma 4 12B ist die ausgereifte Wahl für alles, wassehen muss, weil es seit fünf Monaten öffentlich ist, eine wirklich große Installationsbasis hat und sein multimodaler Pfad trainiert und nicht zusammengestückelt ist. Granite Switch 4.1 8B ist die interessante Wahl für alles, wasentscheiden oder einen Endpunkt statt drei betreiben muss, und es ist zwei Tage alt, ohne jede unabhängige Bewertung. Das sind keine konkurrierenden Urteile — sie sind Antworten auf unterschiedliche Fragen, und der Rest dieses Beitrags ist das Detail, mit dem Sie erkennen können, welche Frage Sie tatsächlich haben.

Die architektonische Trennung, klar ausgedrückt

Granite Switch 4.1 8B ist eine Komposition. Die Basis ist Granite 4.1 8B – 40 Schichten, Hidden Size 4.096, 32 Query-Heads gegenüber 8 KV-Heads, ein Fenster von 131.072 Token, ein Vokabular von 100.352 Token, das die beiden Adapter um genau drei reservierte IDs erweitern. Darauf sitzen zwei aktivierte LoRA-Adapter, guardian-core mit Rang 16 über den Attention-Projektionen und decision mit Rang 64 über alle sieben davon, plus Granite Speech 5.0 TurboCTC, ein nicht-autoregressiver Conformer-Encoder mit 470 Mio. Parametern, für Audio-Eingabe. Insgesamt: 8.776.400.896 Parameter gegenüber den 8.380.551.168 der Basis – ein Zuwachs von 4,72 % für zwei Adapter und ein Sprachmodell.

Gemma 4 12B ist ein einzelner Stack. Die Konfiguration nennt ihn gemma4_unified, und der Name ist wörtlich zu nehmen: Bild, Audio und Video haben alle ihre eigenen Token-IDs innerhalb eines einzigen Vokabulars mit 262.144 Token, und die Karte beschreibt die Architektur als encoderfrei, was bedeutet, dass es keinen separaten Vision-Tower oder Audio-Tower gibt, der eine Projektion in das Sprachmodell einspeist. Es verschränkt lokale Sliding-Window-Attention über ein Fenster von 1.024 Token mit voller globaler Attention, verwendet p-RoPE für die Position und erstreckt sich auf einen 256K-Kontext. Apache-2.0, wie beim Granite.

• Parameter — Granite Switch 4.1 8B: 8,78B zusammengesetzt (8,38B Basis). Gemma 4 12B: 11,95B.

• Kontext — 131.072 Tokens vs. 256.000 Tokens.

• Vokabular — 100.355 vs. 262.144, wobei Gemmas für Bild-, Audio- und Video-Tokens reserviert sind.

• Modalitäten in — Text und Audio vs. Text, Bild, Audio und Video.

• Modalitäten aus — nur Text vs. nur Text.

• Spezialisierte Heads — eine kalibrierte Entscheidungsverteilung und ein Sicherheitsklassifikator im Gegensatz zu keinen; Gemma antwortet, es bewertet keine Optionslabels.

• Lizenz — beide Apache-2.0.

Wo Gemma 4 12B eindeutig gewinnt

Was Vision betrifft, liegen sie nicht nah beieinander. Gemma 4 12B liest Bilder nativ; Granite Switch 4.1 8B hat überhaupt keinen Bildpfad. Wenn Ihre Pipeline Screenshots, PDFs, Diagramme oder UI-Aufnahmen aufnimmt, ist der Vergleich damit beendet — keine noch so ausgeklügelte Adapter-Lösung ersetzt eine Modalität, die der Checkpoint nicht akzeptiert.

Die Erfolgsbilanz ist der zweite Punkt. Gemma 4 12B ist seit dem 23. Mai 2026 auf dem Hub, und sein Instruct-Geschwistermodell hat 1,6 Millionen Downloads überschritten; allein der Basis-Checkpoint liegt bei über 79.000. Beide Zahlen sind Hub-Downloadzahlen und keine Nutzungskennzahlen, weshalb sie den tatsächlichen Einsatz zu hoch darstellen, doch die Richtung ist eindeutig: Es gibt eine große Zahl von Menschen, die bereits auf seine Fehlermodi gestoßen sind und darüber geschrieben haben. Granite Switch 4.1 8B ist zum Zeitpunkt des Verfassens zwei Tage alt, mit ein paar Dutzend Downloads und einer Handvoll Likes. Fünf Monate öffentlicher Fehlerberichte sind ein Gut, das man nicht kaufen kann, und es ist das mit Abstand stärkste Argument dafür, Gemma in diesem Quartal auf einen Produktionspfad zu setzen.

Die Kontextlänge ist der dritte Punkt, und sie ist der stille. 256K gegenüber 131.072 ist kein Marketingunterschied, wenn man lange Dokumente einspeist. Keines der beiden Modelle braucht einen Workaround für eine typische Chat-Workload, aber nur eines von ihnen nimmt einen Kontext in Repository-Größe ohne Sharding an.

Wo Granite Switch 4.1 8B klar gewinnt

Der Entscheidungsadapter ist eine Fähigkeit, die das andere Modell schlicht nicht besitzt. Gibt man ihm einen Zustand und eine Frage mit gelabelten Optionen, liefert er in einem einzigen Vorwärtsdurchlauf eine kalibrierte Softmax-Verteilung über diese Labels zurück – der dokumentierte Aufruf fordert von vLLM die Logprobs genau der Label-Token-IDs an und exponentiiert sie, wodurch eine Ausgabe in der Form A: 0.982, B: 0.0035, C: 0.014 entsteht. Ein Allzweckmodell lässt sich per Prompt dazu bringen, ein Label auszuwählen, doch Prompting erzeugt ein Token, keine Verteilung, die man schwellenwertbasiert auswerten, über Turns hinweg vergleichen oder als kalibrierten Score protokollieren kann. Für Routing-Logik, Triage, Eskalationsschwellen und alles, was eher einen Konfidenzwert als eine Antwort benötigt, ist das eine andere Klasse von Ausgabe.

Die Konsolidierung auf einen einzigen Endpunkt ist der zweite Punkt. Sprachtranskription läuft auf demselben Endpunkt wie Chat und Entscheidungen; Sie senden einen input_audio-Inhaltsteil bei einer normalen Chat-Vervollständigung, und der 470M-Encoder transkribiert ihn, bevor er den Text in den Kontext einfügt. Kein zweiter Server, keine Orchestrierungsschicht, keine separate ASR-Rechnung. Gemma 4 12B nimmt ebenfalls Audio entgegen, das ist also keine Fähigkeitslücke – es ist ein Unterschied in der Bereitstellungsform, und er ist nur dann von Bedeutung, wenn Sie ansonsten einen separaten Sprachdienst neben dem LLM betreiben wollten.

Der Speicherbedarf ist der dritte. 8,78B gegenüber 11,95B sind etwa ein Viertel weniger Gewicht, das vorgehalten werden muss, und das Design mit gemeinsam genutztem KV-Cache bedeutet, dass die Adapter nicht jeweils ihren eigenen Attention-Zustand mitführen. IBM behauptet, dass das zusammengesetzte Modell etwa denselben VRAM belegt wie das Basismodell allein; diese konkrete Behauptung ist nicht reproduziert, aber das Parameter-Delta von 4,72 % dahinter ist eine Tatsache aus dem Build-Manifest.

Die beiden Behauptungen auf der Granite-Seite, die noch keine Tatsachen sind

Der veröffentlichte Decision-Index-Wert für den Entscheidungs-Adapter liegt insgesamt bei 42,9 auf dem öffentlichen Fast-Subset edition-v0.3 mit 1.068 Zeilen, mit Bereichswerten von Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 und Arts 18,0. IBM hat diese Evaluierung durchgeführt und IBM hat sie veröffentlicht. Niemand sonst hat sie reproduziert, und es gibt überhaupt keinen Leaderboard-Eintrag von Drittanbietern für Granite Switch. Beachten Sie auch die Form: 59,8 bei Tools direkt neben 18,0 bei Arts ist ein Spezialistenprofil, kein allgemeiner Kompetenzwert, und die Karte sagt ausdrücklich, dass die Optionswahrscheinlichkeiten als Prior und nicht als zertifizierte Klassifizierung in Domänen zu behandeln sind, für die der Adapter nicht trainiert wurde.

Der zweite ist der Sprachpfad, und er ist die Behauptung, die am ehesten überinterpretiert wird. Der Encoder ist nur für Englisch ausgelegt, seine Ausgabe ist in Kleinbuchstaben und ohne Satzzeichen, und – mit IBMs eigenen Worten in der Modellkarte – sind der Sprach-Encoder und das LLM nicht gemeinsam trainiert; es gibt keine trainierte Projektion, die sie koppelt. Der Audiopfad von Gemma 4 12B wurde als Teil des Modells trainiert. Das ist der eigentliche Unterschied, und er übersteht all das Gerede über Endpunkt-Konsolidierung: Das eine System hat eine trainierte Kopplung zwischen Klang und Bedeutung, das andere hat ein Transkript, das von einer Komponente in einen Prompt eingefügt wurde, die nie darauf optimiert wurde, mit dem zusammenzuarbeiten, was ihn liest.

Sie nebeneinander laufen lassen

Beide Checkpoints sind herunterladbar, beide sind Apache-2.0, und die ehrliche Einordnung ist, dass sie in unterschiedliche Rollen gehören und nicht in einen direkten Vergleich. Gemma 4 12B ist das, wozu man greift, wenn die Eingabe Pixel enthält. Granite Switch 4.1 8B ist das, wozu man greift, wenn die Ausgabe eine Wahrscheinlichkeit sein muss oder wenn Sie einen einzigen Endpoint wollen, der Chat, Entscheidungen und Transkription erledigt, und bereit sind zu akzeptieren, dass die Transkriptionshälfte eher eine Zusammenfügung als ein trainierter Pfad ist.

Wenn Sie die beiden einem Benchmark unterziehen, tun Sie das, ohne Ihren Stack umzubauen. OrcaRouter stellt über 200 Modelle hinter einem einzigen API-Schlüssel mit automatischem Failover bereit und gibt den Listenpreis der Anbieter mit 0 % Aufschlag weiter, sodass eine Preisänderung auf Anbieterseite noch am selben Tag hier ankommt und nicht erst beim nächsten Katalog-Refresh. img src="4.png" alt="Ein Screenshot der OrcaRouter-Modellseite für Gemma 4 26B A4B, der das Modell mit den Tags Vision, Tools, JSON und Reasoning zeigt, mit einem Kontext von 262K Tokens, Text-, Bild- und Videoeingabe, einem Google-Veröffentlichungsdatum vom 2026-04-03, einem Preis pro Million Tokens von 0,06 $ für Input und 0,33 $ für Output, einer p50-Zeit bis zum ersten Token von 2,74 Sekunden sowie einleitendem Text, der Gemma 4 26B A4B IT als instruktionsoptimiertes Mixture-of-Experts-Modell mit insgesamt 25,2 Mrd. Parametern beschreibt, von denen 3,8 Mrd. pro Token aktiviert werden." /> Keiner dieser beiden Checkpoints ist heute in unserem Katalog, und wir tun nicht so, als wäre es anders — Granite Switch ist ein Hugging-Face-Download und ein vLLM-Container, Gemma 4 12B ebenso. Der Sinn dahinter, einen Kandidaten hinter einem einzigen Schlüssel zu platzieren, ist, dass ein Vergleich mit dem Etablierten auf Ihrem eigenen Traffic, sobald er verfügbar wird, nur einen Model-String kostet, keine Migration. Betrachten Sie einige der Modelle, die wir tatsächlich anbieten, wie etwa Gemma 4 26B A4B, als Brücke: Es gehört zur selben Familie wie das Modell, das Sie bewerten, auf einem gehosteten Endpoint – und das schon heute.

Welches, für wen?

Nimm Gemma 4 12B, wenn deine Workload Pixel enthält, wenn 256K Kontext tragend ist, oder wenn du dieses Quartal auslieferst und fünf Monate der Fehler anderer Leute zwischen dir und der Produktion haben willst. Nimm Granite Switch 4.1 8B, wenn du eine kalibrierte Verteilung über gelabelte Optionen statt einer Antwort brauchst, wenn das Zusammenlegen von Chat, Entscheidungen und Sprache auf einen einzigen Endpunkt einen Dienst aus deiner Architektur entfernt, oder wenn du zu der Art Team gehörst, das das Build-Manifest lesen und seine eigene Variante zusammenstellen möchte — der Composer ist öffentlich und der Adapter-Katalog ist offen.

Nimm Granite Switch 4.1 8B nicht für Vision. Es hat keine. Und verlass dich bei keinem der beiden auf eine Benchmark-Zahl, die du nicht selbst ermittelt hast, denn der einzige Entscheidungswert in diesem Vergleich ist ein vom Anbieter gemeldeter, hinter dem keine zweite Meinung steht – was eine Aussage über die Beleglage ist, nicht über das Modell.