RepGen-4B vs Intern-Decision-4B: Twee teams hebben dezelfde 4B-basis gefinetuned en waren het over niets eens

Twee stille releases, vijf weken na elkaar, vertakkend vanaf hetzelfde checkpoint. microsoft/UserRepGen-4B verscheen op 14 oktober 2026 op Hugging Face als een 9,1 GB bfloat16-repository zonder aankondiging; internlm/Intern-Decision-4B verscheen op 26 september 2026 om 05:36:37 UTC binnen een venster van veertig seconden dat ook een 0,8B en een 2B opleverde, eveneens zonder aankondiging. Beide zijn LoRA fine-tunes van Qwen3.5-4B, beide zijn tekst-only ondanks dat ze een vision tower dragen die ze nooit gebruiken, beide retourneren een starre structuur in plaats van een antwoord — en ze kunnen niet meer van mening verschillen over waarvoor het model dient. Intern-Decision-4B schrijft nooit een token. UserRepGen-4B schrijft niets dan tokens. Al het andere in deze vergelijking volgt uit die ene splitsing.

De een is een scorer, de ander is een schrijver.

De kaart van InternLM is ongewoon bot over zijn eigen mechaniek: "Deze API voert gestructureerde kandidaatscoring uit. Het roept generate() niet aan en samplet geen vrije tekst." Je geeft het een toestand, een schema van benoemde vragen en een reeks kandidaatantwoorden. Het mapt de opties op single-token symbolen, voert één causale forward pass uit, leest de logits op de positie direct vóór elke placeholder, past een gefitte temperatuur van 1,99241824 toe en retourneert een gekalibreerde waarschijnlijkheid per optie. Eén pass. Geen sampling, geen decoderingslus, geen tekst.

RepGen-4B keert het om. Je geeft het een voltooide conversatie. Het produceert tot 1.024 tokens proza over twee JSON-velden — een taakbeschrijving en een user_behavior-beschrijving — en de kaart is even bot in de andere richting: het model "genereert representaties, geen gesimuleerde gebruikersbeurten," het voert de taak van de gebruiker niet uit, en het is niet de simulator.

Zet de twee naast elkaar en de technische consequenties worden onmiddellijk duidelijk.

• Wat de output waard is — Intern-Decision-4B retourneert een getal waarop je een drempel kunt toepassen, dat je kunt middelen en auditen. UserRepGen-4B retourneert een alinea waarvan alleen een LLM-beoordelaar de kwaliteit kan beoordelen, wat precies is hoe Microsoft het heeft geëvalueerd.

• Kosten per aanroep — één forward pass over een vaste prompt versus tot wel 1.024 gegenereerde tokens. Dat is het verschil tussen ongeveer 44 milliseconden en een volledige decoderingsrun, en daarom kan het beslissingsmodel in een lus zitten waar het representatiemodel dat niet kan.

• Waar de betekenis leeft — InternLM vond dat het antwoord al opsombaar in de prompt moest zitten, dus het model hoeft alleen maar te rangschikken. Microsoft vond dat het antwoord latent aanwezig is in een gesprek, dus het model moet het schrijven. Rangschikken is begrensd en verifieerbaar. Schrijven is onbegrensd en vereist een beoordelaar.

De inputplafonds, en wat ze je vertellen over de inzetten

Beide kaarten publiceren een harde limiet, en het vergelijken ervan is de snelste manier om te zien hoe verschillend de twee teams hetzelfde basismodel hebben afgebakend.

Intern-Decision-4B weigert werk boven 8.192 tokens. Dat is een weigering, geen truncatie — een ontwerpkeuze die zegt dat het model bedoeld is voor beslissingen die compact genoeg zijn om volledig in een prompt te formuleren.

UserRepGen-4B is getraind op een sequentie van 9.216 tokens: tot 8.192 prompttokens die het gesprek beslaan, plus 1.024 completiontokens voor de representatie. De kaart voegt eraan toe dat uitgebreid contextgebruik buiten die lengte "niet wordt ondersteund door deze release", en dat langecontextprestaties nooit afzonderlijk zijn gebenchmarkt. Zo duikt hetzelfde plafond van 8.192 tokens aan beide kanten op, onafhankelijk van elkaar bereikt, door twee teams die vermoedelijk geen zicht hadden op elkaars werk.

Die convergentie is de nuttige bevinding. Een 4B-finetune op deze basis, medio 2026, is een component die is toegesneden op één welgevormde prompt — geen engine voor lange context. Beide releases zijn er eerlijk over. Geen van beide verbergt het achter een groter geadverteerd venster.

Beiden publiceerden een kalibratieverhaal, en het zijn niet hetzelfde verhaal.

Dit is waar het vinden van de bronnen delicaat wordt, omdat de twee evaluaties niet met elkaar te vergelijken zijn en geen van beide buiten het eigen lab is gereproduceerd.

Intern-Decision-4B publiceert een benchmark met zeven suites waarop het gemiddeld 90,02 scoort — de beste rij in zijn eigen tabel, beter dan Intern-Decision-2B met 84,68 en Intern-Decision-0.8B met 79,38, allemaal gemeten op de testharnassen van InternLM. Het publiceert ook kalibratie: een Brier-score van 0,347 en een verwachte kalibratiefout van 0,065. Een afzonderlijke pilot met 96 gevallen die exacte referentieverdelingen gebruikt, gaat van 0,628 Brier en 0,213 ECE naar 0,550 en 0,089 nadat de gefitte temperatuur ervan is toegepast. Elk van die cijfers is afkomstig van de leverancier zelf, en niemand buiten InternLM heeft ze gecontroleerd.

RepGen-4B publiceert een getrouwheidstabel op een beoordelingsschaal van 1 tot 10 — 4,95 best-of-1 en 6,02 best-of-3, tegenover 3,90 en 4,90 voor GPT-5.5 in de standaarduitvoering en 3,41 en 4,42 voor de niet-afgestelde basis. Al die cijfers zijn van Microsoft zelf, geproduceerd met GPT-5.4 mini die tegelijkertijd als simulator, assistent en beoordelaar fungeert, en niemand buiten Microsoft heeft ze gecontroleerd.

De asymmetrie die ertoe doet, zijn niet de scores — die meten verschillende dingen op verschillende schalen. Het is dat Intern-Decision-4B een correcte scoringsregel publiceert tegen bekende referentieverdelingen, die per constructie falsifieerbaar is, terwijl UserRepGen-4B een LLM-judge-score publiceert, die alleen falsifieerbaar is door een andere judge te draaien. InternLM bouwde een model dat met rekenwerk kan worden geauditeerd. Microsoft bouwde er een dat met een ander model moet worden geauditeerd. Aangezien beide claimen de baselines te hebben verslagen, is dat verschil in auditeerbaarheid een reëel deel van waar je tussen kiest.

De privacybevinding die slechts één van hen afdrukt

De kaart van Intern-Decision-4B bevat geen privacygedeelte van betekenis. Die van UserRepGen-4B bevat een getal dat elk team zou moeten laten stilstaan: bij meer dan 147 gebruikers haalt een selector die gevraagd werd te kiezen welk van vier gesprekken van dezelfde persoon afkomstig was, 51,02% met behulp van de gedragsbeschrijvingen van het model, tegenover 44,22% met behulp van de volledige ruwe gesprekken en 25% bij toeval. De gecomprimeerde representatie identificeert de persoon beter dan het materiaal waaruit deze is afgeleid.

Microsoft bestempelt het als een koppelbaarheidsrisico en zegt ronduit dat representaties geen geanonimiseerde data zijn. Dat is de juiste manier om ermee om te gaan, en het is een waarschuwing die geldt voor de hele klasse van modellen — inclusief het beslissingsmodel, waarvan de eigen inputs gesprekken over de situaties van mensen zijn. Het verschil is alleen dat de ene kaart dat wel zegt en de andere niet, wat niet hetzelfde is als dat het ene model veilig is.

Geen van beide is een API, maar de basis die ze delen is

Beide zijn downloads, geen endpoints. Intern-Decision-4B wordt geleverd als een Python DecisionEngine-klasse die één keer wordt geladen en daarna hergebruikt, de bijbehorende demo-Space antwoordt met 401 en de GitHub-link geeft een 404; UserRepGen-4B wordt geleverd als één niet-gekwantiseerd safetensors-bestand en een example.py. OrcaRouter heeft geen van beide. Als u zegt dat een van beide vandaag via een gehoste API beschikbaar is, beschrijft u een plan in plaats van een feit.

Wat daadwerkelijk aanroepbaar is, is het checkpoint waarvan beide zijn afgetakt. De familie van Qwen3.5-4B staat in onze catalogus — Qwen3.5-Flash met een context van meer dan een miljoen tokens tegen $0,10 per miljoen inputtokens en $0,40 per miljoen output, Qwen3.5-35B-A3B tegen $0,057 en $0,459, Qwen3.5-27B tegen $0,086 en $0,688 — allemaal op dezelfde sleutel, allemaal tegen de lijstprijs van de provider zonder dat er iets bij komt. Dat is nuttig voor het deel van de pipeline dat niet deze twee modellen is: de assistentkant van een simulatie, of de redeneerstap rond een beslissingsaanroep, kan via één endpoint lopen terwijl je de fine-tune lokaal evalueert.

Hoe te kiezen

Als je probleem een afgebakende vraag is met opsombare antwoorden en je hebt tienduizend keer per seconde een gekalibreerd getal nodig, dan is Intern-Decision-4B het enige model hier dat dat doet, en het feit dat het nooit steekproeven neemt, is eerder een kenmerk dan een beperking. Als je probleem is dat je een simulator wilt die zich als een echte gebruiker gedraagt, dan is UserRepGen-4B het enige model hier dat daarvoor is getraind, en de omvang van de gerapporteerde winst ten opzichte van GPT-5.5 is de reden om je er iets van aan te trekken. Niemand zou een van beide moeten kiezen op basis van de cijfers van de ander, want ze hebben nooit hetzelfde gemeten. Wat de vergelijking zou beslechten, is één stuk extern kritisch onderzoek naar een van beide modelkaarten — en voor twee releases die in totale stilte zijn uitgebracht, weken na elkaar, heeft geen van beide er ook maar één gehad.

Twee stille releases zijn ook een herinnering eraan hoeveel van deze klasse modellen zonder documentatie wordt geleverd, en de fouten die daarop volgen worden verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwistingsmarkering bevat.