RepGen-4B vs. Gemma 4 12B: Ein 4B-Nischenspezialist gegen einen 12B-Generalisten, und warum die Größen lügen

Nebeneinander gestelltmicrosoft/UserRepGen-4B und Gemma 4 12B wirken wie eine ungleiche Paarung, deren Ausgang schon vor dem ersten Zug feststeht. Googles Modell mit 11,95 Milliarden Parametern liest Text, Bilder und Audio, hält 256K Token Kontext, bringt einen technischen Bericht und einen Launch-Blog mit und wurde seit Mai 2026 rund 79.000 Mal heruntergeladen. Microsofts Modell ist ein Rank-64-LoRA auf Qwen3.5-4B, hochgeladen am 14. Oktober 2026 ohne jegliche Ankündigung, und es tut genau eine Sache: Es liest eine fertige Nutzer-Assistenten-Konversation und schreibt eine JSON-Beschreibung mit zwei Feldern über die darin vorkommende Person zurück. Es kann kein Gespräch führen, keine Frage beantworten und kein Bild sehen. Diese beiden nach ihrer Leistungsfähigkeit zu bewerten, ist kein Vergleich, sondern ein Kategorienfehler – und der Kategorienfehler ist der interessante Teil, denn das kleinere Modell ist dasjenige, das einen Frontier-Generalisten bei der Aufgabe schlägt, für die es gebaut wurde.

Wofür jedes einzelne tatsächlich da ist

Die übersichtlichste Art, beides im Kopf zu behalten, ist, dass Gemma 4 12B ein Assistent und UserRepGen-4B ein Messinstrument ist.

• Gemma 4 12B — das encoderfreie multimodale Mitglied der Gemma-4-Familie. Text, Bild und Audio gehen rein; Text kommt heraus. G​oogles eigene Karte beschreibt es als „Unified", weil es die dedizierten Vision- und Audio-Encoder weglässt, die der Rest der Familie verwendet, und rohe Bild-Patches und Wellenformen direkt über leichte lineare Schichten in den Embedding-Raum des Decoders projiziert. 48 Schichten, ein gleitendes Fenster von 1.024 Token, ein Vokabular von 262K, 256K-Token-Kontext. Apache 2.0, instruction-getunte Varianten zusammen mit der Basisversion veröffentlicht.

• UserRepGen-4B — ein Repräsentationsgenerator. Eingabe: eine autorisierte mehrstufige Konversation, bis zu 8.192 Token. Ausgabe: ein JSON-Objekt mit einem Feld task und einem Feld user_behavior, begrenzt auf 1.024 Token, von einem Menschen überprüft und dann an ein separates LLM weitergegeben, das in einer Simulation den Nutzer spielt. MIT für Microsofts Beitrag, Apache 2.0 vom Q​wen-Backbone übernommen. Nur Text, obwohl der Checkpoint einen Vision-Tower behält, den er nie verwendet.

Gemma 4 12B kann man bitten, das zu tun, was UserRepGen-4B tut – eine Konversation lesen und den Nutzer darin beschreiben. Das ist genau der ehrliche Weg in dieses Duell, denn Microsofts Karte misst ein allgemeines Modell, das genau das tut, und es verliert.

Die einzige reelle Zahl, die sie verbindet

Es gibt keinen veröffentlichten direkten Vergleich zwischen diesen beiden, und sich einen auszudenken wäre der naheliegende Fehler einer Seite wie dieser. Was die UserRepGen-4B-Karte tatsächlich veröffentlicht, ist eine Bewertung der Wiedergabetreue über 700 Gespräche auf einer Skala von 1 bis 10, bei der jeder Generator anhand identischer Calls bewertet wird. In dieser Tabelle, GPT-5.5, unverändert als Repräsentationsgenerator eingesetzt, erzielt 3,90 best-of-1 und 4,90 best-of-3. UserRepGen-4B erzielt 4,95 und 6,02. Der trainierte 4B-Spezialist schlägt einen Frontier-Generalisten, der um Größenordnungen größer ist, bei genau dieser Aufgabe.

Gemma 4 12B ist nicht in dieser Tabelle, also weiß niemand, wo es landen würde. Aber die Baseline, an der es gemessen würde, macht die Form der Antwort klar: Ein allgemeines Modell, das gebeten wird, einen Nutzer zu beschreiben, produziert etwas Plausibles und Generisches, und die Trainingsmethode in UserRepGen-4B existiert speziell, um darüber hinauszugehen. Ein 12B wird sehr wahrscheinlich das 4B beim allgemeinen Schlussfolgern schlagen und bei dieser eng gefassten Aufgabe von ihm geschlagen werden.

Was die naheliegende Frage aufwirft, warum man nicht einfach Gemma 4 12B dazu auffordern sollte, dasselbe zu tun, und nur ein Modell auf der Festplatte behalten sollte. Zwei Gründe – und der zweite ist der, auf den es ankommt.

Das erste sind die Kosten bei hohem Volumen. Das Erzeugen einer Repräsentation pro Konversation ist ein Batch-Job, und 12B Parameter kosten für denselben Durchlauf ungefähr dreimal so viel wie 4B Parameter. Das zweite ist, dass die Fidelity-Lücke kein Tuning-Problem ist – die eigenen Ablationen der Karte zeigen einfaches überwachtes Fine-Tuning bei 4.64/5.68, während sowohl OPSD als auch GRPO, die beiden Reinforcement-Learning-Methoden, zu denen ein kompetentes Team zuerst greifen würde, landen unter diesem Wert bei 4.46/5.60 und 3.57/4.59. Ein allgemeines Modell zu diesem Verhalten zu bringen, ist keine Frage eines besseren Prompts oder eines schwereren RL-Laufs. Es ist das, wofür die Trainingsschleife gebaut wurde.

Beide sind herunterladbar, und nur eines davon ist bereitstellbar.

Hier fällt die Gegenüberstellung von 4B und 12B völlig auseinander, denn die beiden Releases liegen an entgegengesetzten Enden des Packaging-Spektrums.

• Gemma 4 12B — ein veröffentlichtes Produkt mit einem funktionierenden Ökosystem. Transformers-Unterstützung, eine instruktionsoptimierte Variante, quantisierte und Edge-Formate, die familienweit veröffentlicht wurden, ein Launch-Blog, ein technischer Bericht auf arXiv und ein dokumentierter Weg vom Download bis zum Serving.

• UserRepGen-4B — eine einzelne bfloat16-Safetensors-Datei mit 9.078.620.536 Bytes. Kein GGUF, kein ONNX, kein MLX, keinerlei Quantisierung. Die Karte sagt es direkt: „Derzeit sind keine optimierten oder gerätespezifischen Formate verfügbar.“

Diese Lücke ist nicht nebensächlich. Gemma 4 12B wurde dafür gebaut, von anderen Leuten ausgeführt zu werden, und elfeinhalb Milliarden Parameter werden als Produkt ausgeliefert. UserRepGen-4B wurde dafür gebaut, ein Ergebnis für ein Paper zu erzeugen, und seine Modellkarte sagt noch immer, die Zitierung sei „noch nicht bestätigt“, und verweist darauf, „solange das Repository privat ist“ zu authentifizieren – eine Zeile, die von einem gestaffelten Upload übrig geblieben und nicht aktualisiert worden ist. Das eine ist fertig; das andere ist fertig genug.

Wenn du eigentlich ein Gemma 4 über eine API wolltest

Das sollte man klar sagen, denn genau hier sind die meisten Leser eines Gemma-Vergleichs tatsächlich zu Hause: OrcaRouter bietet Gemma 4 12B nicht an — es gibt dafür keine Modellseite in unserem Katalog — und auch UserRepGen-4B wird nicht angeboten. Zwei andere Mitglieder derselben Gemma-4-Familie sind allerdings im Katalog, und beide nennen den Listenpreis des Anbieters ohne Aufschlag: Gemma 4 26B A4B, die 25,2B-Mixture-of-Experts-Variante mit 3,8B aktiven Parametern über einen Kontext von 262.144 Token, zu $0,06 pro Million Eingabe-Token und $0,33 pro Million Ausgabe-Token; und Gemma 4 31B, die dichte multimodale 30,7B-Variante, zu $0,13 und $0,38. Wenn Sie speziell das 12B-Modell für lokale Arbeit wollten, ist der Download die Antwort, und keine API ändert das.

Für die Simulationsseite ist die ehrliche Position dieselbe. UserRepGen-4B ist ein Checkpoint und eine Prompt-Datei – Sie lassen es selbst, in Ihrer eigenen Umgebung, gegen Konversationen laufen, zu deren Verarbeitung Sie berechtigt sind. Es wäre praktisch, wenn das ein Aufruf an einen gehosteten Endpunkt wäre. Das ist es heute nicht, weder bei uns noch sonst irgendwo.

Welche soll ich herunterladen?

Wenn Sie einen kleinen multimodalen Assistenten brauchen, der Dokumente liest, Audio hört und auf einem Laptop Fragen beantwortet, dann ist Gemma 4 12B der richtige, und der Vergleich mit UserRepGen-4B ist nicht einmal annähernd nah genug, um relevant zu sein. Wenn Sie einen Nutzersimulator bauen und Ihr aktueller Ansatz darin besteht, ein allgemeines Modell dazu zu prompten, den Nutzer zu beschreiben, dann ist UserRepGen-4B hier das Einzige, was dafür trainiert wurde, und die Belege — vom Anbieter gemeldet, aus einem einzigen Labor, durchgängig von GPT-5.4 mini bewertet — besagen, dass das Training das Prompting schlägt. Was das Bild ändern würde, ist das Paper oder eine unabhängige Bewertung dieser 4,95 von außerhalb Microsofts. Weder das eine noch das andere existiert bisher, und auf beides lohnt es sich zu warten, bevor jemand eine funktionierende Pipeline damit ersetzt.

Auch bei Vergleichen wie diesem treten die Fehlermodi zutage: Die dokumentierten KI-Vorfälle und Agenten-Ausfälle hinter Modellen dieser Klasse finden sich im OrcaRouter AI Incident Archive, wo jeder Eintrag eigene Quellen, Schweregrad, Konfidenzstufe und eine Kennzeichnung als umstritten enthält.