MiniCPM5-2B-DSpark vs Granite 4.2 3B: Två tysta Apache-2.0-släpp för liten, snabb och självhostad serving

Augusti och början av september 2026 bjöd på två stillsamma Apache-2.0-releaser med samma uppdrag — små modeller som du serverar själv — och de tog sig an det från motsatta håll. Granite 4.2 3B är IBMs resonemangsmodell i laptopstorlek, vars vikter lades ut på Hugging Face i början av augusti och vars modellkort och tekniska blogginlägg publicerades den 25 augusti 2026. MiniCPM5-2B-DSpark är inte alls en modell i samma bemärkelse: det är en DSpark-draft-checkpoint med 323,8 miljoner parametrar som OpenBMB lade upp den 6 september 2026 utan något tillkännagivande, byggd för att få MiniCPM5-2B — den täta on-device-modellen med 2,52 miljarder parametrar som ModelBest presenterade på WAIC den 19 juli 2026 — att generera tokens snabbare genom spekulativ avkodning. Den ena releasen är en fristående liten resonemangsmodell; den andra är ett accelerationstillbehör till en liten modell. Båda ligger under Apache-2.0, båda är endast avsedda för egen drift, och ingen av dem har ännu utvärderats av ett oberoende benchmark.

Skala bort marknadsföringslagret och den praktiska frågan ett team står inför är enkel: för en liten, självhostad inferensbelastning i slutet av 2026, vill du ha IBMs 3B-resonemangsspecialist eller ModelBests 2B-agentorienterade stack med en gratis utkastmodell fastkopplad? Bevisen är tunnare än någon av leverantörernas specifikationsblad antyder, så den här artikeln går igenom utgivningsfakta, den enda uppsättningen jämförbara siffror som faktiskt finns, och den arbetsbelastningsskillnad som bör styra valet.

De två releaserna, vad som går att veta

Granite 4.2 3B är IBMs minsta resonemangsmodell, eftertränad från Granite-4.1-3B-Base. Den är tät och enbart textbaserad — 40 lager, grouped-query attention, ett inbyggt kontextfönster på 128K som utökas till 512K i en femte förträningsfas, och tre resonemangslägen: fullt tänkande som standard, ett läge med låg ansträngning och ett icke-tänkande läge. IBMs modellkort anger tydligt att 3B medvetet hoppade över det agentiska förstärkningsinlärningsblocket som de större Granite 4.2-syskonen fick; därför listas inga SWE-Bench-resultat, och 3B är en resonemangsmodell snarare än en agentmodell. Den tillhandahålls via vLLM, SGLang, Transformers, GGUF och Ollama (granite4.2:3b) och har inget hostat API. De viktigaste siffrorna på dess modellkort — 78.33 på AIME 2025, 54.80 på GPQA och 69.71 på LiveCodeBench v6 — är leverantörsrapporterade och ännu inte oberoende verifierade.

Modellkortet ibm-granite/granite-4.2-3b ovan är den offentliga fasaden för den utgåvan: en resonemangsfinjusterad 3B med en långkontext-berättelse och inga agentiska anspråk.

MiniCPM5-2B-DSpark, däremot, existerar endast för att tjäna sin målmodell. Draftmodellen består av fem full-attention-lager med 323 776 001 parametrar och en blockstorlek på sju kandidattoken per framåtpass, tränad i sex epoker på 7,05 miljarder tokens av MiniCPM5-2B-genererade svar. Dess repo rapporterar acceptanslängd — 5,52 accepterade tokens per verifieringssteg sammantaget vid girig avkodning, 6,11 för kod — men ingen siffra för tokens per sekund. Målmodellen som den accelererar, MiniCPM5-2B, är den mer intressanta produkten: en tät modell med 2,52 miljarder parametrar, 42 lager och 128K-kontext, vars lanseringsmaterial betonar agentisk förmåga — agentmellanträning i 200-miljardersklass, en stor agent-SFT-uppsättning och agent-RL-anpassning, enligt ModelBests tillkännagivande i juli — plus inbyggd långkontext och hybrida snabba/eftertänksamma lägen. I ModelBests egen jämförelsesvit får målmodellen i genomsnitt 53,9 mot öppna modeller i samma klass. Varenda en av dessa siffror är leverantörens.

Openbmb/MiniCPM5-2B-DSpark-kortet ovan är hela releasens omfattning: modellkort, konfiguration, en Safetensors-fil och inget tillkännagivande.

Den enda jämförelsen inom samma svit som finns.

Poängjämförelser mellan olika leverantörer är oftast som att jämföra äpplen och päron, men det finns en plats där Granite 4.2 3B och MiniCPM5-2B mättes tillsammans: ModelBests egen utvärderingstabell för MiniCPM5-2B, som listar granite-4.2-3B bland sina baslinjer. I den sviten får MiniCPM5-2B i genomsnitt 53,9 mot Granite 4.2 3B:s 42,7. Läs den siffran exakt som den är – en leverantör som kör båda modellerna på en svit, inte oberoende reproducerad, och utvald för att få den egna modellen att se bra ut. Det är ingen dom. Vad den säger dig är att ModelBest var tillräckligt självsäkra för att ta med en konkurrents 3B i tabellen, och det gap de gör anspråk på är störst precis där den egna utbildningen investerat: långa kontexter och agentiska rader. Betrakta det som ett vägledande påstående, verifiera det på dina egna data, och väg in IBMs egna separata kortanspråk innan du bestämmer dig för något.

Resultattavlan, ärligt märkt.

• Vad som släpps — MiniCPM5-2B-DSpark: en 324M-draft för MiniCPM5-2B (tät målmodell på 2,52B), inte fristående. Granite 4.2 3B: en fristående tät resonemangsmodell på ~3B.

• Roll — MiniCPM5-2B-stacken: betoning på agent och verktygsanvändning på enheten, enligt ModelBest. Granite 4.2 3B: resonemangsspecialist, medvetet icke-agentisk.

• Kontext — MiniCPM5-2B mål: 128K nativt. Granite 4.2 3B: 128K nativt, utökningsbart till 512K.

• Acceleration — MiniCPM5-2B-DSpark: extern DSpark-draft, sju tokens per pass, girig acceptans på ~5,5 per steg (enligt repot). Granite 4.2 3B: ingen acceleration medföljer i den här versionen.

• Licens — båda Apache-2.0.

• Bevis — MiniCPM-siffrorna är påståenden från ModelBests modellkort (dess svit: 53,9 mot Granite 42,7); Granite-siffrorna är påståenden från IBMs modellkort (AIME 2025 78,33, GPQA 54,80). Det finns ingen oberoende körning av något av dem.

Poängtavlan ovan har samma källmaterial som brödtexten: varje siffra på den är leverantörsrapporterad, och den enda siffran från samma svit som någon av leverantörerna har publicerat är ModelBests egen.

Skillnaden som överträffar alla riktmärken

Innan vi går till poängen, bestäm vilken typ av liten modell din arbetsbelastning kräver, eftersom de två utgåvorna svarar på olika frågor. Granite 4.2 3B är byggd för resonemang och långa kontexter på begränsad hårdvara: ett nativt fönster på 128K som kan utökas till 512K, tre tankelägen per förfrågan, ett fotavtryck som är tillräckligt litet för att köras på en laptop och ett uttryckligt beslut att avstå från agentisk träning. Om din uppgift är analys av långa dokument, kontext i repositorieskala eller tillförlitligt resonemang på en liten maskin, är det ett passande val. MiniCPM5-2B är byggd för den motsatta betoningen: agentiskt beteende och verktygsanvändning på enheten – att utkastet över huvud taget finns signalerar att ModelBest förväntar sig att detta användningsfall ska betjänas interaktivt och vill ha tillbaka tokens per sekund. Om din uppgift är en agentloop på enheten som anropar verktyg och för långa konversationer, är det den stacken som riktar sig till dig.

Utkastet ändrar ekonomin i det andra valet på ett sätt som Granites lansering inte åtgärdar. MiniCPM5-2B är dense, och spekulativ avkodning lönar sig mest i just det dense, minnesbundna läget – en liten fast modell som föreslår tokens till en något större fast modell. En extern drafter som lägger till ungefär 650 MB BF16-vikter till en ~5 GB-målmodell, med en dokumenterad SGLang-serveringsväg och en girig acceptansgrad på runt fem och en halv token per verifieringssteg, är en trovärdig hävstång för genomströmning hos en modell som du serverar med enkel samtidighet för en enskild förfrågan. Men förbehållet är oundvikligt: OpenBMB har inte publicerat någon end-to-end-snabbning, så hävstången är okalibrerad. IBM levererar ingen motsvarande extern drafter för Granite 4.2 3B i denna lansering – du kör den dense, och dess hastighetsprofil handlar helt enkelt om att 3B är liten.

Vem ska köra vilken

• Kör Granite 4.2 3B om din arbetsbelastning består i att resonera kring långa kontexter på en maskin i laptopklass — dokument, repositories, djup enkeltrådad analys — och du vill ha tre tankelägen och ett tak på 512K hos en Apache-2.0-modell som du har full kontroll över. Acceptera att det inte finns någon agentisk träning bakom den och att inget hostat API finns.

• Kör MiniCPM5-2B-stacken med dess DSpark-utkast om din arbetsbelastning är en interaktiv, verktygsanropande agent på enheten, där målmodellen ryms i din minnesbudget och du vill ha den genomströmning som ett utkast kan vinna tillbaka. Avsätt tid för att mäta utkastets faktiska hastighetsökning i din egen SGLang-build, eftersom ingen siffra för den har publicerats.

• Kör båda bakom ett routinglager om du verkligen är osäker. Ingen av modellerna finns i en värdkatalog idag, OrcaRouter inkluderad – båda är självhostade lösningar – men en router som frontar dina egna slutpunkter med automatisk failover låter den nya utkaststacken ligga på en testväg medan produktionen ligger kvar på den beprövade, och dess 0 %-påslag och pass-through för de värdbaserade modellerna runt dem håller A/B-jämförelsen billig. Poängen är reversibilitet: byt modellnamn, mät, och växla tillbaka om den en dag gamla checkpointen stannar.

Vad du ska titta på härnäst

Två saker kommer att avgöra den här uppgörelsen snabbare än någon åsikt. För det första: en oberoende körning av MiniCPM5-2B som bekräftar eller slår hål på 53,9-snittet och de agentiska påståendena — en 2B-modell som presterar så väl på SWE-Bench-liknande uppgifter skulle vara en genuint ny datapunkt för on-device-klassen. För det andra: att IBMs egna siffror för resonemangsmodellen överlever när någon annan försöker återskapa dem. 3B-modellens 78,33 på AIME 2025 är den typen av påstående som brukar ändras när någon annan kör det igen. Tills något av detta landar är den ärliga ståndpunkten: Granite 4.2 3B är den säkrare, bättre dokumenterade lilla modellen idag, och MiniCPM5-2B-stacken är det mer intressanta vadet — en snabbare on-device-agent om dess påståenden håller, med en draft vars utdelning inte ens dess egen leverantör ännu har mätt.