MiniCPM5-2B vs Qwen 3 8B: Moet een 8B-workload overstappen naar een 2.5B?

Elke modelvergelijking verbergt een hardwarevraag, en MiniCPM5-2B versus Qwen 3 8B is die vraag verkleed als benchmark. Qwen 3 8B is het open-weights-werkpaard van Alibaba uit april 2025 — ongeveer 8,2B dense parameters, 119 talen, hybride denken per verzoek aan of uit, en zestien maanden aan community-bewijs erachter. MiniCPM5-2B is het model dat ModelBest en OpenBMB op 19 juli tijdens de World Artificial Intelligence Conference onthulden als het hoogst genoteerde sub-4B-model op de ranglijst van Artificial Analysis, en waarvan de open weights op 6 en 7 september stilletjes live gingen op Hugging Face. De vraag die ze daadwerkelijk samen op één pagina brengt, is de vraag die de meeste teams met een open 8B zich op een gegeven moment stellen: zou de workload die ik op een 8B draai kunnen verhuizen naar een 2,5B — en als dat zou kunnen, waar zou ik dan op inleveren?

Het korte antwoord is voor de meeste workloads nog niet, maar de redenen zijn beperkter dan het viervoudige omvangverschil doet vermoeden, en er is één categorie implementaties waar de 8B in het geheel geen antwoord op heeft. Alle kwantitatieve gegevens hieronder komen van de leverancier en zijn als zodanig gelabeld: de cijfers van MiniCPM5-2B zijn de eigen modelkaartclaims van ModelBest, een week oud en door niemand buiten het lab gereproduceerd; die van Qwen 3 8B zijn van Alibaba, inmiddels door een grote gemeenschap uitgebreid getest, gekwantiseerd en opnieuw uitgevoerd. Die asymmetrie in bewijsvoering is het echte verhaal van deze vergelijking.

Zestien maanden Qwen 3 8B

Qwen 3 8B is dezelfde architectuurfamilie, drie keer groter en zestien maanden ouder dan zijn tegenstander. Het is een dichte causale transformer met grouped-query attention, voorgetraind op een meertalig corpus van ongeveer 36 biljoen tokens, Apache-2.0, en een van de meest zelf-gehoste en ingezette 8B-modellen in de wereld van open gewichten. Zijn signatuur is de Q​wen3 hybride redeneermodus — denken aan of uit per verzoek, waardoor één enkele implementatie snelle vragen snel kan beantwoorden en kan overschakelen naar een bewuste chain-of-thought voor wiskunde of code. Het biedt native Model Context Protocol en function calling, een native context van 32K die Alibaba valideert tot 131K via YaRN-schaling, en dekking van 119 talen en dialecten. Zestien maanden later zijn de faalmodi gedocumenteerd, bestaan de kwantisaties overal, en is de serving-stack eromheen — vLLM, SGLang, llama.cpp, duizend fine-tunes — volwassen. Bij praktische kwantisatie draait het in de lage gigabytes, comfortabel op één mid-range GPU, niet op een telefoon.

Wat MiniCPM5-2B in die wereld beweert.

MiniCPM5-2B komt uit de tegenovergestelde richting: klein door ontwerp, agentisch door training. Het is een dichte transformer met in totaal 2,52B parameters (1,98B niet-embedding), 42 lagen met een hidden size van 2048, grouped-query attention, een standaard LlamaForCausalLM-architectuur zonder custom kernels, en een contextvenster van 131.072 tokens in de meegeleverde configuratie (het lanceermateriaal van juli prees 512K aan; de uitgebrachte configuratie bevat dat niet). Terwijl Qwen 3 8B zijn breedte aan een meertalige pretraining-run van 36 biljoen tokens ontleent, ontleent MiniCPM5-2B zijn vorm aan post-training: SFT op 400B tokens deep-thinking-data, gevolgd door On-Policy Distillation die zestien RL-expertmodellen, waarvan vijf agentisch, weer tot één klein dicht netwerk samenvouwt. De pitch bij de lancering was een on-device-basismodel voor agenten — native tool calling via XML-achtige aanroepen, adaptatie op dag nul over negen chipfamilies plus ARM, hybride snelle/doordachte modi — en de modelkaart claimt een intern gemiddelde van 53,9 op de door de leverancier gekozen 2B-4B-vergelijkingsset, een AIME 2025/2026-score van 86,5, en een door de leverancier behaalde score van 46,4 op SWE-bench Verified, een resultaat dat opmerkelijk zou zijn voor een 2,5B-model als het onafhankelijke tests doorstaat.

De mismatch, dimensie voor dimensie

• Release — MiniCPM5-2B: aangekondigd op 19 juli 2026; gewichten gaan live op 6-7 september. Qwen 3 8B: aangekondigd in april 2025.

• Grootte — MiniCPM5-2B: 2,52B totaal / 1,98B niet-embedding, dense. Qwen 3 8B: ~8,2B dense.

• Context — MiniCPM5-2B: 131.072 tokens in de meegeleverde configuratie. Qwen 3 8B: 32K native, 131K gevalideerd via YaRN.

• Talen — MiniCPM5-2B: gericht op Engels en Chinees. Qwen 3 8B: 119 talen en dialecten.

• Redeneren — MiniCPM5-2B: hybride snelle/doordachte modi, volgens het lanceringmateriaal. Qwen 3 8B: Qwen3-denken aan of uit per verzoek.

• Bewijs — MiniCPM5-2B: leverancierskaart, geen onafhankelijke run. Qwen 3 8B: door Alibaba gerapporteerd, zestien maanden community-reproductie en -implementatie.

Het bovenstaande scorebord toont de mismatch eerlijk: de kolommen verschillen op vrijwel alles behalve de open Apache-2.0-licentie, en de apparaatklasse waarvoor je ontwikkelt, bepaalt welke kolom je überhaupt mag kiezen.

Waar de 8B nog steeds wint

Stap je een gewichtsklasse lager, dan lever je drie concrete dingen in. Om met talen te beginnen: Qwen 3 8B bestrijkt 119 talen; de modelkaart en data van MiniCPM5-2B zijn gericht op Engels en Chinees, en er wordt geen meertalige breedte geclaimd. Voor een product dat een lange staart aan talen bedient, is dat een harde muur, geen zachte. Ten tweede, het bewijs: zestien maanden communitytesting betekent dat het gedrag van Qwen 3 8B bekend is en dat het ecosysteem overal aanwezig is, terwijl MiniCPM5-2B een repository van een week oud is met een ongeverifieerde modelkaart — en als de cijfers die de kop halen geen stand houden bij onafhankelijke runs, zijn dat precies de getallen die stilletjes worden herzien. Ten derde, de serving-stack: alles wat al met Qwen 3 8B praat, praat met een volwassen doelwit, terwijl een gloednieuwe checkpoint in de 2B-klasse betekent dat kwantisaties, serving-configuraties en tool-calling-gedrag helemaal vanaf nul gevalideerd moeten worden. Geen van deze punten is een reden waarom de 2B niet zou kunnen winnen op een specifieke benchmark; het zijn redenen waarom de 8B overal waar die past de standaard met het laagste risico is.

Waar een 2B het enige antwoord is

Niets daarvan doet ertoe op de apparaatklasse waar een 8B simpelweg niet past. Op een telefoon, een smart-cockpitboard of een kleine edgebox met een paar gigabyte DRAM concurreert Qwen 3 8B niet met MiniCPM5-2B — hij is er simpelweg niet op bruikbare snelheid inzetbaar. Dat is de hele reden dat de 2B bestaat, en daarom is de eerlijke framing van deze vergelijking niet "is de 2B net zo goed als de 8B" maar "welke van mijn implementaties kan alleen door een van deze twee worden bediend." Als je on-device agents uitrolt waar de geheugenbus zou stikken in acht miljard gewichten, is MiniCPM5-2B een van de meest agressief getrainde opties in de 2B-klasse die beschikbaar zijn, en de enige vraag die het stellen waard is, is of de agentische claims je eigen reproductie overleven. Als je workload al draait op hardware die een 8B comfortabel aankan, is het grootteverschil op zich geen reden om te migreren — en de bewijskloof pleit daartegen.

Als u overweegt over te stappen

De veilige manier om de overstap te testen is om het als een experiment te behandelen, niet als een migratie. Serveer MiniCPM5-2B op je eigen hardware, richt een deel van het echte verkeer erop via één API met automatische failover, en meet tegen de 8B op dezelfde verzoeken — een routeringslaag verdient hier zijn bestaansrecht, want een checkpoint van een week oud kan vastlopen of in een lus raken zonder de productieomgeving plat te leggen, en de prijzen die de provider vermeldt voor welke gehoste modellen je ook vergelijkt, worden met 0% opslag doorberekend. Wat je echt test, zijn drie dingen: of de nauwkeurigheid van de 2B standhoudt op jouw data, of de latentie van de 2B op jouw apparaatklasse beter is dan die van de 8B op de hardware die je anders zou kopen, en of het Engels-Chinese taalprofiel de gebruikers dekt die je daadwerkelijk hebt. Reproduceer eerst SWE-bench of een deel van je eigen evaluatieset — de twee uur die dat kost, is de goedkoopste verzekering die deze vergelijking biedt.

Het vonnis

Blijf bij Qwen 3 8B voor alles wat meertalig is, {{1}}alles wat zestien maanden bekend gedrag nodig heeft,{{/1}} of {{2}}elke workload die al draait op hardware die een 8B comfortabel aankan.{{/2}} Test MiniCPM5-2B alleen serieus {{3}}als je doelapparaat de 8B helemaal niet aankan,{{/3}} of {{4}}als een 2.5B die meekan met agentische en long-context-taken je minder geheugen en energie zou laten verbruiken op hardware die je al levert.{{/4}} {{5}}De koploper in de sub-4B-ranglijst is een echte prestatie{{/5}} en {{6}}de open-weights-release maakt het vandaag al testbaar;{{/6}} het is {{7}}op basis van het beschikbare bewijs{{/7}} simpelweg nog geen reden om een 8B-werkpaard dat zijn plek al heeft verdiend, met pensioen te sturen.