Gemma 4 12B: Ein Blick in Googles Encoder-freies 12B-Modell

Gemma 4 12B ist das mittelgroße Mitglied der Gemma 4-Familie von DeepMind: ein dichtes Open-Weights-Modell mit 11,95 Milliarden Parametern, das Text, Bilder, Audio und Video-Frames liest und Text schreibt, und dessen entscheidende technische Entscheidung darin besteht, dass es überhaupt keine multimodalen Encoder mitführt. Es liegt zwischen dem edge-orientierten Gemma 4 E4B und dem größeren, dünner besetzten Gemma 4 26B A4B. Die Launch-Notiz beschreibt seine Aufgabe darin, agentische multimodale Arbeit auf einen Laptop zu bringen – Reasoning, Tool-Nutzung, Coding und Dokument- oder Bildschirmverständnis, das auf dem Rechner vor Ihnen läuft statt über eine getaktete Verbindung. Es ist außerdem die Größe, die den gesamten Live-Footprint dieser Familie auf unserer eigenen Website trägt: Über es wurden drei Vergleichsseiten geschrieben, und bis zu dieser hier gab es keine Seite über das Modell selbst.

Diese Umkehrung sollte gleich zu Beginn benannt werden, denn sie erklärt die Gestalt all dessen, was unten folgt. Leserinnen und Leser erreichen Gemma 4 12B nicht so, wie sie bei einem Flaggschiff ankommen. Sie kommen von der Seite, meist über eine Vergleichsseite, oft weil die eigentliche Frage lautet: welche Größe von Gemma 4 — und sie wollen wissen, was die linke Seite des Vergleichs tatsächlich ist, bevor sie einen Download darauf verwenden. Die Suchanfragen, die wir für diesen Namen messen, sind überwiegend vergleichend; der bloße Begriff allein ist dünn. Dies ist also eine Referenzseite: was das 12B ist, was seine Modellkarte angibt, was zum Ausführen nötig ist, was seine Lizenz erlaubt und welcher der drei bestehenden Vergleiche die Frage, mit der Sie gekommen sind, bereits beantwortet.

Es handelt sich nicht um eine Launch-Story, und sie sollte auch nicht als eine solche gelesen werden. Gemma 4 12Bwurde am 3. Juni 2026 veröffentlicht – 132 Tage vor dieser Seite – und nichts am Modell änderte sich in den sieben Tagen vor der Veröffentlichung. Dieses Datum stammt aus den eigenen Release Notes des Anbieters und wird hier verwendet, um das Modell zeitlich einzuordnen, nicht um es anzukündigen.

Was das 12B ist und worin es sich vom 26B A4B unterscheidet

Die Gemma-4-Familie hat fünf Größen, und sie sind nicht fünf Punkte auf einer Linie. Die Modellkarte bezeichnet sie als E2B, E4B, 12B Unified, 26B A4B und 31B, und sie verteilen sich auf zwei Architekturen: drei dichte Modelle und ein Mixture-of-Experts, wobei die E-Größen Per-Layer-Embeddings verwenden, um zu verkleinern, was tatsächlich auf einem Gerät läuft.

Gemma 4 12B ist ein dichtes Modell. Die Modellkarte weist ihm 11,95 Mrd. Gesamtparameter über 48 Schichten zu, mit einem gleitenden Fenster von 1.024 Token und einem Kontext von 256K Token. Die Gemma 4 26B A4B hingegen ist das Mixture-of-Experts-Modell der Familie: 25,2 Mrd. Gesamtparameter, aber nur 3,8 Mrd. aktive pro Token, verteilt über 30 Schichten mit 8 aktiven Experten von 128 plus einem geteilten Experten. Dieses „A“ ist der ganze Sinn des Namens – das Modell trägt 26 Mrd. Gewichte und bezahlt bei jedem Vorwärtsdurchlauf für ungefähr 4 Mrd. davon, weshalb die Modellkarte es als fast so schnell laufend wie ein 4B-Modell beschreibt, während es weit mehr Wissen speichert.

Die ehrliche Unterscheidung in einem Satz ist also diese. Das 26B A4B ist die Größe, die man wählt, wenn man die größtmögliche Leistungsfähigkeit pro Latenzeinheit möchte und eine Workstation oder einen Server hat, auf dem man es betreiben kann. Das 12B ist die Größe, die man wählt, wenn die Maschine ein Laptop ist und das Budget 16 GB Arbeitsspeicher beträgt. Die Einführungsnotiz beschreibt das 12B als die Brücke zwischen dem E4B und dem 26B A4B, und das Datenblatt bestätigt das.

Der interessantere Unterschied ist architektonischer Natur, und er ist der Grund, warum das 12B als „Unified“ und nicht nur als „Dense“ bezeichnet wird. Jedes andere multimodale Modell der Familie leitet Bilder und Audio durch dedizierte Encoder, bevor es das Ergebnis an das Sprachmodell weitergibt – die Karte listet einen ~150M Vision-Encoder und einen ~300M Audio-Encoder bei den E-Größen sowie einen ~550M Vision-Encoder sowohl beim 31B als auch beim 26B A4B auf. Das 12B hat weder das eine noch das andere; die Spalte für Vision- und Audio-Encoder-Parameter beim 12B zeigt in beiden Fällen einen Gedankenstrich.

Was an ihre Stelle getreten ist, ist klein. Der Launch-Post beschreibt Vision als ein leichtgewichtiges Embedding-Modul – eine einzelne Matrixmultiplikation plus Positions-Embedding und Normalisierung – und Audio als das vollständige Entfernen des Encoders und das Projizieren des Rohsignals in denselben dimensionalen Raum wie Text-Tokens. Rohe Bild-Patches und Audio-Wellenformen gelangen direkt in einen einzigen Decoder-only-Transformer. Der angegebene Nutzen besteht in einer geringeren multimodalen Latenz und der Möglichkeit, das Ganze in einem einzigen Durchgang über Modalitäten hinweg mit einem einzigen Adapter statt einem pro Encoder feinabzustimmen.

Das ist auch der Grund, warum das 12B das erste mittelgroße Gemma mit nativer Audioeingabe ist. Auf der Modellkarte ist „Text, Bild, Audio“ die Modalitätszeile für E2B, E4B und 12B; das 31B und das 26B A4B sind nur mit „Text, Bild“ gekennzeichnet.

Die Spezifikation, wie die Modellkarte sie angibt

Alles in diesem Abschnitt stammt aus der Gemma-4-Modellkarte auf ai.google.dev, die die gesamte Familie abdeckt und nicht nur das 12B-Modell. Wo die Karte schweigt, wird dies vermerkt, statt es auszufüllen.

• Kontextlänge — 256K Token beim 12B. Die Karte vermerkt die Aufteilung ausdrücklich: Die kleinen Modelle (E2B, E4B) erhalten 128K, die mittleren Modelle (12B, 26B A4B, 31B) erhalten 256K.

• Modalität — Text-, Bild- und Audioeingabe; Textausgabe. Die Karte führt Video als eine Fähigkeit der Modellfamilie auf, die als Frame-Sequenzen verarbeitet wird, und beschreibt Bildeingabe mit variablem Seitenverhältnis und variabler Auflösung über alle Größen hinweg.

• Gesamtparameter — 11,95 Mrd., dense, 48 Layer. Die Karte gibt keine Angabe zu aktiven Parametern, da es keine Experten gibt, die aktiviert werden könnten.

• Gleitendes Fenster — 1.024 Token, doppelt so viele wie die 512, die die E-sizes verwenden.

• Wortschatz — 262K, gemeinsam für alle fünf Größen.

• Attention — ein Hybrid, der lokale Sliding-Window-Attention mit voller globaler Attention verschachtelt, wobei die letzte Schicht immer global ist. Globale Schichten verwenden vereinheitlichte Keys und Values plus proportionales RoPE, um den Speicherverbrauch bei langem Kontext niedrig zu halten.

• Sprachen — vortrainiert auf 140+ Sprachen, wobei die Karte eine Out-of-the-Box-Unterstützung für 35+ Sprachen angibt.

Zwei Zahlen, die man miteinander abgleichen sollte, denn sie wirken wie eine Unstimmigkeit und sind keine. Die Modellkarte sagt 256K Token; die Modellseite von Artificial Analysis für Gemma 4 12B sagt 262k. Das ist dieselbe Zahl in zwei Schreibweisen – 262.144 Token sind 256K – und die 262K-Vokabularangabe der Karte direkt daneben lässt das Paar auf den ersten Blick widersprüchlich erscheinen.

Bei Benchmarks veröffentlicht die Karte eine Familientabelle für die instruktionsoptimierten Checkpoints, und dies sind vom Anbieter gemeldete Zahlen, keine unabhängigen. Für Gemma 4 12B listet die Karte 77,2 % bei MMLU Pro, 78,8 % bei GPQA Diamond, 77,5 % bei AIME 2026 ohne Tools, 72,0 % bei LiveCodeBench v6, eine Codeforces-ELO von 1659, 69,1 % bei MMMU Pro und 43,4 % bei MRCR v2 bei 128K mit acht Nadeln auf. Dieselbe Tabelle führt Gemma 4 26B A4B mit 82,6 % MMLU Pro, 88,3 % AIME, 77,1 % LiveCodeBench und 44,1 % MRCR an — bei den meisten Zeilen vorn, was man von dem größeren Modell erwarten würde, und bei einigen nahe genug, dass der Größenunterschied nicht die ganze Geschichte ist.

Die unabhängige Einschätzung von Artificial Analysis lässt sich in einer einzigen Schlagzeile zusammenfassen: ein Intelligence-Index-Wert von 14, Rang 20 von 141 Modellen in seiner Vergleichsklasse, bei einer gemessenen Ausgabegeschwindigkeit von 110,9 Tokens pro Sekunde und kombinierten Kosten von 0,10 $ pro Million Input-Tokens und 0,30 $ pro Million Output-Tokens. Diese Kostenwerte sind ein Median über Drittanbieterplattformen hinweg, die die offenen Gewichte bereitstellen, und kein Listenpreis des Anbieters – hier ist Präzision angebracht, denn der Anbieter veröffentlicht auf der Modellkarte für das 12B überhaupt keinen Preis pro Token.

Ausführen: Was es tatsächlich braucht

Der Launch-Post nennt die zentrale Anforderung direkt: Das 12B-Modell ist „klein genug, um lokal mit nur 16 GB VRAM oder Unified Memory zu laufen.“ Die dafür veröffentlichten Quantisierungsgrößen machen das konkret.

• Volle Präzision — der auf Instruktionen abgestimmte Checkpoint auf Hugging Face ist eine einzelne safetensors-Datei mit 23,92 GB. Bei bfloat16 ist das der reine Speicherbedarf der Gewichte, noch bevor irgendein KV-Cache hinzukommt, sodass ein 16-GB-Rechner ihn nicht aufnehmen kann und eine 24-GB-Karte knapp bemessen ist.

• Die eigenen quantisierten Builds des Anbieters – weil das 12B mit quantisierungsbewusstem Training ausgeliefert wurde und nicht nur mit einem nachträglichen Quantisierer. Der Anbieter veröffentlicht ein QAT-GGUF mit 6,98 GB für die Gewichte plus eine 0,18 GB große multimodale Projektionsdatei sowie einen QAT-Compressed-Tensors-Build (w4a16) mit 10,26 GB. Es gibt außerdem einen nicht quantisierten QAT-Checkpoint, der speziell als Basis zum Fine-Tuning vor der erneuten Quantisierung veröffentlicht wurde.

• Community-GGUF — der weithin gespiegelte Unsloth-Build reicht von etwa 4,2 GB bei der aggressivsten 2-Bit-Variante über 6,38 GB bei IQ4_XS, 7,12 GB bei Q4_K_M und 8,41 GB bei Q5_K_M bis 12,67 GB bei Q8_0. Der Mirror von LM Studio veröffentlicht Q4_K_M mit 7,38 GB, Q6_K mit 9,79 GB und Q8_0 mit 12,67 GB, jeweils mit derselben 0,18-GB-Projektionsdatei.

• MLX — ein 8-Bit-quantisierter Build für Apple Silicon landet bei etwa 12,7 GB, verteilt auf drei Dateien; ein 4-Bit-Community-Build eines Coding-Fine-Tunings kommt auf knapp 6,7 GB.

Zusammen gelesen ist das die praktische Antwort auf die Frage „Passt das?“ Eine 4-Bit-Version von Gemma 4 12B mit rund 7 GB ist die Version, die einen 16-GB-Laptop zum Laufen bringt, genau wie vom Anbieter angegeben. Wenn Sie das Modell unquantisiert möchten, ist das Ziel eine 24-GB-Karte oder mehr, und wenn Sie den vollen 256K-Kontext möchten, brauchen Sie zusätzlich zum Speicherbedarf der Gewichte Platz für den Cache.

Zwei Dinge, die die Quellen Ihnen nicht liefern und die diese Seite auch nicht erfinden wird. Es gibt keine vom Anbieter veröffentlichte Durchsatzangabe für lokale Inferenz – die 110,9 Tokens pro Sekunde von Artificial Analysis sind eine gehostete Messung auf der Infrastruktur Dritter, kein Laptop-Wert, und die beiden sind nicht austauschbar. Und es gibt keine veröffentlichte Mindest-RAM-Tabelle pro Quantisierung; die oben genannten Größen sind Dateigrößen, also eine Untergrenze, keine Anforderung.

Was die Modellkarte tatsächlich dokumentiert, ist die umgebende Toolchain statt irgendeiner einzelnen bevorzugten Laufzeitumgebung: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM und Unsloth für Inferenz und Fine-Tuning, mit LM Studio, Ollama und LiteRT-LM als paketierte lokale Wege sowie die Gewichte auf Hugging Face und Kaggle. Das 12B wird außerdem mit Multi-Token-Prediction-Draftern ausgeliefert, die als separate Assistant-Checkpoints veröffentlicht werden – ein kleiner zusätzlicher Download, der Speicher gegen Latenz eintauscht.

Eine Routing-Tatsache, klar gesagt, weil sie zu der Sorte Ding gehört, die eine Vergleichsseite im Unklaren lässt: Gemma 4 12B ist kein Modell, das OrcaRouter anbietet – in keiner Schreibweise: weder als bloßer Name noch als datierte Variante noch als quantisierte Fassung. Die Gemma-4-Größen, die wir tatsächlich routen, sind die 26B A4B und die 31B. Wenn man dieses Modell also aufrufen möchte, geht der Weg über das Selbsthosting der Gewichte oder einen Drittanbieter-Host, der sie anbietet; wenn man es lieber nicht selbst betreiben möchte, ist der ehrliche nächste Schritt zu prüfen, ob eine andere Größe der Familie einem das liefert, was man gebraucht hat.

Die Lizenz, speziell für diese Größe

Die Gemma-4-Modellkarte gibt die Lizenz als Apache 2.0 an und verlinkt auf die Gemma-4-Lizenzseite, die den Apache-2.0-Text bereitstellt – die Standard-Apache-Lizenz, ohne Nutzungsobergrenzen, ohne Schwellenwert für monatlich aktive Nutzer und ohne separate kommerzielle Stufe. Das Hugging-Face-Repository für den 12B instruction-tuned Checkpoint trägt dieselbe Erklärung in seinen Metadaten und verweist auf dieselbe Lizenz-URL. Für diese Größe hat die Lizenzfrage also eine kurze Antwort: Nutzen, ändern, weiterverbreiten – kommerziell oder anderweitig – zu den Bedingungen von Apache 2.0.

Daneben existieren zwei begleitende Dokumente, die man kennen sollte, statt sie mit der Lizenz zu verwechseln. Der Anbieter veröffentlicht eine Seite mit Gemma-Nutzungsbedingungen und eine Gemma-Richtlinie zur verbotenen Nutzung. Bei der Richtlinie zur verbotenen Nutzung handelt es sich um ein Verhaltensdokument, das Kategorien von Ausgaben auflistet, zu deren Generierung die Modelle nicht verwendet werden dürfen. Sie ist eine Richtlinie, keine Lizenzbeschränkung für die Gewichte – die Gewichte selbst sind Apache 2.0, was Community-Ableitungen dieses Modells überhaupt erst möglich macht. Wenn Sie Gemma 4 12B oder ein Fine-Tuning davon weitergeben, regelt die Lizenz Ihre Weitergabe; die Richtlinie regelt die zulässige Nutzung.

Diese Unterscheidung beantwortet die Frage, die das Derivate-Ökosystem der Community aufwirft, ohne das Verhalten irgendjemandes charakterisieren zu müssen. Weil die Gewichte unter einer permissiven Lizenz offen sind, können Dritte Fine-Tunes und Quantisierungen des 12B veröffentlichen – und tun dies auch: abliterierte Varianten, domänenspezifische Fine-Tunes, alternative Quantisierungsrezepte. Was die Lizenz erlaubt, ist die Weitergabe dieser Derivate; die Lizenz ist auch der Grund, warum es sie gibt.

Die drei Vergleiche, hinter denen diese Seite steht

Alle drei Live-Seiten unter diesem Stamm sind Paarungen, und jede von ihnen beantwortet bereits eine andere Frage. Diese Seite fällt kein Urteil über eine von ihnen — sie ist das, was sie beschreiben.

• Gemma 4 12B vs. Gemini 3.5 Flash-Lite — klärt, was passiert, wenn beide Optionen vom Anbieter stammen und die Achse darin besteht, wie man bezahlt: ein Modell, das man unter Apache 2.0 herunterlädt, gegen die günstigste nutzungsabhängig abgerechnete Stufe der gehosteten API.

• Gemma 4 12B vs GLM 5.2 — klärt das extrem asymmetrische Duell: ein 12B-Modell ohne Encoder, das man auf einem Laptop laufen lässt, gegen ein Mixture-of-Experts mit 744B Parametern und offenen Gewichten, entwickelt für langfristiges agentisches Coding zu einem um ein Vielfaches höheren Preis.

• Gemma 4 12B vs. Qwen3.8 Max — klärt die Frage „auf dem Gerät oder gemietet“ direkt: eine Maschine auf Ihrem Schreibtisch gegen das Flaggschiff desselben Labors, pro Token bereitgestellt.

Wenn du tatsächlich eine der anderen Gemma-4-Größen möchtest statt eines weiteren 12B-Vergleichs, ist die Seite, die alle fünf auf einmal abdeckt, der Family Hub, wo E2B, E4B, 26B A4B und 31B gemeinsam beschrieben werden. Und wenn du bereits entschieden hast, dass das 12B nicht die richtige Größe ist, sind die Modelle, gegen die es am häufigsten abgewogen wird – GLM 5.2, Qwen3.8 Max und Gemini 3.5 Flash-Lite – alle über OrcaRouter mit einem Schlüssel erreichbar, mit 0 % Aufschlag auf den eigenen Listenpreis des Anbieters, sodass eine Preissenkung eines Anbieters hier am selben Tag ankommt, an dem sie angekündigt wird.

Was ist nicht geklärt

Zwei Lücken sollten benannt statt übertüncht werden. Die Benchmark-Tabelle oben ist vom Anbieter gemeldet – die eigene Model Card und das Evaluations-Setup des Anbieters – und obwohl Artificial Analysis das Modell inzwischen unabhängig mit einem Intelligence Index von 14 bewertet hat, gibt es keine breite unabhängige Replikation der Werte je Benchmark; behandeln Sie die Zahlen auf Zeilenebene daher als Behauptungen. Und es gibt keine veröffentlichte Speichertabelle je Quantisierung für das 12B-Modell, was bedeutet, dass die Aussage „16GB reichen“ eine Anbieterbehauptung ist, die durch Dateigrößen gestützt wird – keine gemessene Konfiguration, die man kopieren kann.

Das Modell selbst lässt sich leicht einordnen: ein Apache-2.0-Modell ohne Encoder, multimodales Modell mit 12B Parametern, datiert auf den 3. Juni 2026, das auf einem Laptop mit 4 Bit läuft und die kleinste Gemma-4-Größe mit nativem Audio ist. Was es nicht ist, ist ein Modell mit einem gehosteten First-Party-Tarif, weshalb die praktische Entscheidung darüber zuerst eine Hardware-Entscheidung und erst danach eine Preisentscheidung ist.

Wenn Sie über ein Matchup hierher gelangt sind und das Matchup nicht das ist, das Sie benötigt haben, dann ist die nächste Seite der Vergleich, der zu Ihrer Frage passt, und wenn auch das nicht hilft, die breitere Gemma 4-Familie — das 12B ist eine von fünf Größen, und die Größe, die Sie eigentlich möchten, ist vielleicht das 26B A4B, das Sie heute aufrufen können, oder das 31B, das Sie am oberen Ende des Bereichs der Familie ausführen können.