RepGen-4B vs Gemma 4 12B: En 4B smal specialist mot en 12B generalist, och varför storlekarna ljuger

Ställda sida vid sida, microsoft/UserRepGen-4B och Gemma 4 12B ser ut som en felmatchning som avgjordes innan den ens började. Googles modell med 11,95 miljarder parametrar läser text, bilder och ljud, rymmer 256K token i kontext, kommer med en teknisk rapport och en lanseringsblogg, och har laddats ner omkring 79 000 gånger sedan maj 2026. Microsofts modell är en rank-64-LoRA på Qwen3.5-4B, uppladdad den 14 oktober 2026 utan tillkännagivande, och den gör exakt en sak: den läser en färdig användar–assistent-konversation och skriver tillbaka en JSON-beskrivning med två fält av personen i den. Den kan inte föra en konversation, svara på en fråga eller se en bild. Att väga dessa två mot varandra utifrån kapacitet är inte en jämförelse, det är ett kategorifel – och kategorifelet är det intressanta, eftersom den mindre modellen är den som slår en generalist i framkanten på det jobb den byggdes för.

Vad var och en egentligen är till för

Det tydligaste sättet att hålla båda i huvudet är att Gemma 4 12B är en assistent och UserRepGen-4B är ett mätinstrument.

• Gemma 4 12B — den encoderfria multimodala medlemmen i Gemma 4-familjen. Text, bild och ljud in; text ut. Googles eget kort beskriver den som "Unified" eftersom den tar bort de dedikerade vision- och ljudencoderarna som resten av familjen använder, och projicerar råa bildpatchar och vågformer direkt in i dekoderns inbäddningsutrymme genom lätta linjära lager. 48 lager, ett glidande fönster på 1 024 tokens, en vokabulär på 262K, kontext på 256K tokens. Apache 2.0, instruktionsjusterade varianter publicerade tillsammans med basen.

• UserRepGen-4B — en representationsgenerator. Indata: en auktoriserad konversation med flera turer, upp till 8 192 token. Utdata: ett JSON-objekt med ett task-fält och ett user_behavior-fält, begränsat till 1 024 token, granskat av en människa och sedan överlämnat till en separat LLM som spelar användaren i en simulering. MIT för Microsofts bidrag, Apache 2.0 ärvt från Qwen-backbonen. Endast text, trots att checkpointen behåller ett visionstorn som den aldrig använder.

Gemma 4 12B kan ombes göra vad UserRepGen-4B gör – läsa en konversation och beskriva användaren i den. Det är precis det ärliga sättet att gå in i den här matchningen, eftersom Microsofts modellkort mäter en allmän modell som gör exakt det, och den förlorar.

Det enda riktiga numret som förbinder dem

Det finns ingen publicerad direkt jämförelse mellan dessa två, och att hitta på en skulle vara det enkla misslyckandet för en sida som den här. Vad UserRepGen-4B-kortet däremot publicerar är en trohetsutvärdering av 700 konversationer på en skala från 1 till 10, där varje generator bedöms utifrån identiska anrop. I den tabellen GPT-5.5 som används direkt ur lådan som representationsgenerator får 3,90 i best-of-1 och 4,90 i best-of-3. UserRepGen-4B får 4,95 och 6,02. Den tränade 4B-specialisten slår en generalist i framkanten som är storleksordningar större på just den här uppgiften.

Gemma 4 12B finns inte i den tabellen, så ingen vet var den skulle hamna. Men den baslinje som den skulle mätas mot gör det tydligt hur svaret kommer att se ut: en allmän modell som ombeds beskriva en användare producerar något trovärdigt och generiskt, och träningsmetoden i UserRepGen-4B finns specifikt för att ta sig förbi det. En 12B kommer med stor sannolikhet att slå 4B i allmän resonemangsförmåga och besegras av den i denna smala uppgift.

Vilket väcker den självklara frågan varför man inte helt enkelt skulle kunna prompta Gemma 4 12B att göra samma sak och behålla en enda modell på disken. Två anledningar, och den andra är den som spelar roll.

Den första är kostnaden vid volym. Att generera en representation per konversation är ett batchjobb, och 12B parametrar kostar ungefär tre gånger så mycket som 4B parametrar för samma körning. Den andra är att fidelitetsgapet inte är ett justeringsproblem – kortets egna ablationer visar vanlig övervakad finjustering på 4.64/5.68 medan både OPSD och GRPO, de två förstärkningsinlärningsmetoderna som ett kompetent team först skulle ta till, hamnar under den på 4.46/5.60 och 3.57/4.59. Att få en generell modell att uppnå detta beteende är inte en fråga om en bättre prompt eller en tyngre RL-körning. Det är vad träningsloopen byggdes för.

Båda är nedladdningsbara, och endast en av dem är driftsättningsbar.

Det är här som inramningen 4B mot 12B faller isär fullständigt, eftersom de två utgåvorna ligger i varsin ände av förpackningsspektrat.

• Gemma 4 12B — en lanserad produkt med ett fungerande ekosystem. Stöd för Transformers, en instruktionstränad variant, kvantiserade och edge-format som publicerats i hela familjen, en lanseringsblogg, en teknisk rapport på arXiv och en dokumenterad väg från nedladdning till servering.

• UserRepGen-4B — en enda safetensors-fil i bfloat16 på 9 078 620 536 byte. Ingen GGUF, ingen ONNX, ingen MLX, ingen kvantisering av något slag. Kortet säger det rakt ut: "Inga optimerade eller enhetsspecifika format är för närvarande tillgängliga."

Den skillnaden är inte tillfällig. Gemma 4 12B byggdes för att köras av andra människor, och elva och en halv miljarder parametrar levereras som en produkt. UserRepGen-4B byggdes för att ta fram ett resultat till en artikel, och dess kort säger fortfarande att citeringen "väntar på bekräftelse" och hänvisar till autentisering "medan arkivet är privat" – en rad som blivit kvar från en förberedd uppladdning som inte har uppdaterats. Den ena är färdig; den andra är färdig nog.

Om det du faktiskt ville ha var en Gemma 4 via ett API

Värt att säga rakt ut, för det är där de flesta läsare av en Gemma-jämförelse faktiskt befinner sig: OrcaRouter tillhandahåller inte Gemma 4 12B – det finns ingen modellsida för den i vår katalog – och inte heller UserRepGen-4B. Två andra medlemmar av samma Gemma 4-familj finns dock i katalogen, och båda anger leverantörens listpris utan något påslag: Gemma 4 26B A4B, den 25,2B stora mixture-of-experts-versionen med 3,8B aktiva parametrar över ett sammanhang på 262 144 tokens, till $0,06 per miljon indatatokens och $0,33 per miljon utdatatokens; och Gemma 4 31B, den täta multimodala 30,7B-versionen, till $0,13 och $0,38. Om du specifikt ville ha 12B för lokalt arbete är nedladdningen svaret, och inget API ändrar på det.

För simuleringssidan är den ärliga hållningen densamma. UserRepGen-4B är en checkpoint och en promptfil – du kör den själv, i din egen miljö, mot konversationer som du har behörighet att behandla. Det vore bekvämt om det var ett anrop till en hostad endpoint. Det är det inte, i dag, varken hos oss eller någon annanstans.

Vilken ska man ladda ner

Om du behöver en liten multimodal assistent som läser dokument, lyssnar på ljud och svarar på frågor på en laptop, är Gemma 4 12B det självklara valet, och jämförelsen med UserRepGen-4B är inte ens nära nog för att vara relevant. Om du bygger en användarsimulator och ditt nuvarande tillvägagångssätt är att prompta en allmän modell att beskriva användaren, är UserRepGen-4B det enda här som tränades för det, och bevisen – leverantörsrapporterade, från ett enda labb, genomgående bedömda av GPT-5.4 mini – säger att träningen slår promptningen. Vad som skulle förändra bilden är artikeln, eller en oberoende utvärdering av den där 4,95:an från utanför Microsoft. Ingen av dem finns ännu, och båda är värda att vänta på innan någon byter ut en fungerande pipeline mot den.

Jämförelser som den här är också där fellägena blir synliga: de dokumenterade AI-incidenterna och agentfelen bakom modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och omtvistad-flagga.