Kaart getiteld MiniCPM5-15B-A2.5B, met ondertitel 'Geport door vier runtimes, door niemand downloadbaar', met aangevinkte kaarten voor SGLang, llama.cpp, OpenVINO en InfiniLM naast een kaart 'Geen repository', en badges met de tekst '15B totaal', 'A2.5B actief' en 'DSpark-concept bestaat'
Engineering & Research

MiniCPM5-15B-A2.5B: door vier runtimes geport, door niemand te downloaden

Auteur

Gideon Frost

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Op 2026-11-16 verscheen er een pull request in llama.cpp met de titel "xcy/models: MiniCPM5 MoE-inferentieondersteuning toevoegen". Het is zorgvuldig werk — een nieuwe architectuurvermelding, een conversiepad, tests — en het bevatte één regel in de validatiesectie waar een maintainer bij bleef stilstaan: de auteur had het uitgevoerd tegen "bestaande MiniCPM5-15B-A2.5B GGUFs" op een H800. CISC stelde de voor de hand liggende vraag. Nog niet openbaar, voor zover ik kan zien? tc-mb, wiens GitHub-profiel lidmaatschap van de projecten MiniCPM-V en MiniCPM-o vermeldt, antwoordde met één woord: "ok". De pull request werd twee dagen later gesloten zonder te worden samengevoegd, en het model waar die GGUFs bij horen — MiniCPM5-15B-A2.5B, de sparse mixture-of-experts-variant in OpenBMB's MiniCPM5-lijn — heeft nog steeds geen repository, geen model card, geen licentebestand en geen aankondiging die we ergens konden vinden.

Dit is dus een artikel over wat we tot nu toe weten, en de vorm van het bewijs is belangrijker dan gewoonlijk. Er is geen productpagina om te lezen en geen leveranciersbenchmark om mee in discussie te gaan. Wat er is, is een reeks engine-patches van vier afzonderlijke inference-stacks, geschreven door mensen die de checkpoint voor zich hadden, plus hun testlogs. Dat is genoeg om de architectuur van MiniCPM5 MoE redelijk precies te beschrijven en om iets eerlijks te zeggen over hoe volwassen de ondersteuning is. Het is niet genoeg om je te vertellen wat het model scoort, wat het kost of wanneer je het kunt draaien.

Wat de naam je mag vertellen

De naam van het checkpoint is het enige specificatieblad dat iemand buiten ModelBest heeft gepubliceerd. MiniCPM5-15B-A2.5B leest als 15B totale parameters met 2,5B actief per token — de conventie van totaal en actief die elke sparse MoE in deze grootteklasse sinds Mixtral heeft gebruikt. Niets in welke patch dan ook spreekt dat tegen, en de eigen testnotities van de SGLang-port verwijzen naar "de originele 15B-checkpointconfig" die zonder wijziging wordt opgelost, wat consistent is.

Alles daarna is giswerk, en het is de moeite waard om ronduit te zeggen waarom. De SGLang-patch voegt een MiniCPM5Config-klasse toe waarvan de standaardwaarden 32 lagen, 4.096 verborgen eenheden, 32 heads, 64 routed experts, 2 gedeelde experts en een expert-FFN met een breedte van 1.407 aangeven. Dat zijn standaardwaarden van de klasse die van een GLM-4-sjabloon zijn geërfd, niet de waarden van het checkpoint — hetzelfde bestand heeft standaard een vocabulaire van 32.000 tokens, waar geen enkel model uit 2026 dat aan de frontier grenst mee is uitgeleverd. Lees ze niet als specificaties. Het enige getal dat er echt uit zou kunnen zien, is de routed scalingfactor van 3,66, die voorkomt in de llama.cpp-architectuurtest en in de conversietestfixture; een fixture blijft een fixture, dus beschouw 3,66 als "het getal waar de tests omheen zijn geschreven" in plaats van als een bevestigde constante.

Architectuur, afgelezen van vier patches

Vier onafhankelijke ports komen uit op dezelfde beschrijving, en dat is het meest geruststellende aan deze leak. De SGLang-patch is het meest expliciet: het model "volgt GLM-4.5 MoE, met drie verschillen" — gegate attention, volledige rotary embeddings zonder q/k-normalisatie, en een router die in de eigen dtype van het model wordt berekend in plaats van upcast.

• Gated attention — de query-projectie levert naast de query een sigmoïde-poort per head op, verweven binnen de rijen van elke head. De llama.cpp-conversie moet ze tensor voor tensor van elkaar splitsen, daarom wijzen beide ports erop.

• Dichte lead-in, dan experts — de eerste first_k_dense_replace lagen zijn gewone FFN's; alleen de lagen daarna routeren. De fork-patchnotities van tc-mb merken op dat noch de bestaande qwen35moe noch de minicpm-architecturen die vorm modelleren, waardoor MiniCPM5 MoE een eigen architectuurvermelding nodig had in plaats van een vlag op een bestaande.

• Gerouteerde plus gedeelde experts — sigmoïde gating, genormaliseerde top-k-gewichten, en een gedeelde-experttak naast de gerouteerde. llama.cpp leest een FP32-routercorrectiebias (e_score_correction_bias) per MoE-laag, dezelfde biasterm die routers in DeepSeek-stijl gebruiken om de expertbelasting in balans te houden.

• Volledig roterend, geen q/k-normalisatie — een gewone RoPE over de head-dimensie, waarbij de conversie de head-dimensie expliciet behoudt in plaats van deze af te leiden uit de hidden size gedeeld door het aantal heads.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark vormt de tweede helft van het verhaal, en het is de reden dat dit lek interessant is in plaats van louter netjes. DSpark is speculatief decoderen met een getraind draftmodel — hetzelfde algoritme dat OpenBMB al uitbracht voor MiniCPM5-2B en MiniCPM-V 4.7 — en zowel de SGLang- als de llama.cpp-patches voegen MiniCPM5 MoE toe als een DSpark-doel. Een apart draft-checkpoint met de naam MiniCPM5-15B-A2.5B-DSpark wordt genoemd in het voorbeeld in de llama.cpp-documentatie, wat betekent dat het draftmodel ook bestaat, in welke privéopslag het doel zich ook bevindt.

Vier engines, één niet-uitgebrachte checkpoint

De tijdlijn is wat dit de moeite van het opschrijven waard maakt. Ports gaan normaal gesproken niet zo veel eerder dan een release, over zo veel stacks heen:

• 2026-09-17 — Megatron-LM-patches op een MUSA-fork maken MoE-capaciteitsfactorafhandeling en dropless routing mogelijk als standaard voor "minicpm5". Aan de trainingszijde, en het vroegste spoor dat we hebben gevonden.

• 2026-10-14 — InfiniLM van InfiniTensor opent een patch die MiniCPM5 MoE op de Denglin QY-backend mogelijk maakt met FlashAttention en MoE/RoPE-kernels voor lange context; een follow-up op 2026-11-12 voegt veiligheid bij CUDA-graph-capture en een bf16-decodeerpad toe.

• 2026-11-13 — de llama.cpp-omni-fork van tc-mb voegt de MiniCPM5 MoE-architectuur toe, en een tweede patch dezelfde dag koppelt expertregio's aan de quantizer. De verificatiesectie meldt De hoofdstad van Frankrijk is aanvullend tot Parijs. en 17×23 retourneert 391.

• 2026-11-16 — de upstream llama.cpp pull request. Gesloten op 2026-11-18, niet samengevoegd, waarbij het conversiepad buiten scope werd geschoven en drie dagen later opnieuw werd bekeken in de fork.

• 2026-11-19 — SGLang opent om 09:39 een poort, sluit die en opent hem om 10:19 opnieuw onder een hernoemde branch. Dezelfde ochtend opent een Intel-engineer een optimum-intel-patch waarvan het allereerste codeblok een exportcommando is dat openbmb/MiniCPM5-15B-A2.5B als invoer noemt.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Dat laatste komt het dichtst in de buurt van een smoking gun. De optimum-intel-patch beschrijft geen hypothetisch model — hij draait optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 en rapporteert de nauwkeurigheid ten opzichte van het origineel. Wie het ook schreef, had de gewichten. Het Hub-pad dat hij noemt, geeft niets terug op een anoniem verzoek, en de MiniCPM-README van OpenBMB zelf vermeldt nog steeds 2026-09-07 en de 2B als de nieuwste release, zonder enige MoE-vermelding in de modeltabel.

Wat de testlogs daadwerkelijk laten zien

Dit is het deel dat je langzaam moet lezen, want de getallen in deze patches zijn technische controles, geen benchmarks, en twee ervan zijn mislukt.

De llama.cpp-run is de meest omvattende. Met BF16-, Q8_0- en Q4_K_M-gewichten werden allemaal DSpark-concepttokens geproduceerd en geaccepteerd op een H800, met de draft op --spec-draft-n-max 2. Acht tokenizer-samples kwamen exact overeen met de Hugging Face-tokenizer. De NMSE van CPU versus CUDA bij de synthetische architectuurtest was 1,00e-06. En dan de kanttekening, in de woorden van de auteur zelf: gewone greedy-decodering en DSpark-decodering "vertoonden verschillen op tokenniveau", de oorzaak "is nog niet volledig gekarakteriseerd", en uitvoerequivalentie "is niet vastgesteld". Er is geen logits-pariteitstest tegen de oorspronkelijke checkpoint, geen kwaliteitsevaluatie en geen prestatiecijfer. De auteur stelt ronduit dat er geen snelheidsclaim wordt gedaan.

De SGLang-run is informatiever omdat die één variabele isoleert. Met Triton-attentie voerde DSpark 93 verificatiestappen uit over vier generaties van 64 tokens en week bij elke prompt af van gewone decoding. Met FA3-attentie produceerden hetzelfde 15B-checkpoint en dezelfde draft op alle vier overeenkomende greedy token-ID's. De Triton-discrepantie staat in de patch zoals geschreven nog steeds open. Lees dat als wat het is: een verschil in kernelpad dat iemand heeft gevonden en nog niet heeft verklaard, niet als een uitspraak over het model.

De OpenVINO-cijfers zijn het enige kwantitatieve kwaliteitssignaal in de hele set, en ze zijn bescheiden. Ten opzichte van het originele model in FP32 over 26 prompts en 128 nieuwe tokens was de WWB-tekstsimilariteitsscore 0,9934 voor bf16 op CPU, 0,9455 voor int8 en 0,8710 voor int4 onder de GenAI SDPA-backend; op een B70 GPU 0,9498 voor int8 en 0,8646 voor int4. Een int4-conversie die op 0,87 uitkomt is een conversietrouwheidsresultaat — het zegt dat de gekwantiseerde graaf van de referentie afwijkt, niet dat de referentie goed is. Niemand heeft een benchmarkscore gepubliceerd voor MiniCPM5-15B-A2.5B, en totdat iemand dat doet, is er geen basis om het sterk of zwak te noemen.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Waar het zou komen te staan als het uitkomt

De MiniCPM5-lijn van OpenBMB is tot nu toe een betoog over dichtheid. De 1B verscheen op 2026-05-19 en de 2B op 2026-09-07, beide dense, beide Apache-2.0, beide gebouwd voor implementatie op het apparaat zelf — de 2B is een gewone LlamaForCausalLM zonder aangepaste kernels, en dat is precies waarom hij binnen enkele weken werd geport naar llama.cpp, MLX, ONNX en een half dozijn NPU-toolchains. Een variant met 15B totaal en 2,5B actief zou de eerste MiniCPM5 zijn die geen edge-model is: hetzelfde actieve budget als de 2B, ruwweg zes keer de opgeslagen gewichten, en een routeringslaag die goed moet worden bediend om het geheugen dat hij inneemt waard te zijn.

Die framing verklaart ook de vreemde vorm van dit lek. Als MiniCPM5 MoE bedoeld is voor serving in plaats van telefoons, dan zijn de engine-ports geen leuke extra die na de lancering verschijnt — ze zijn een voorwaarde voor de lancering, en iemand doet ze al vroeg. Dat hetzelfde GitHub-account zowel de llama.cpp- als de SGLang-port heeft aangemaakt, dat een lid van het MiniCPM-project de fork-patches landt, en dat er al een concept-checkpoint voor DSpark bestaat, wijzen allemaal dezelfde kant op: dit is een model dat door mensen met toegang ertoe voor release wordt voorbereid, niet een gerucht dat uit changelogs in elkaar is gezet.

Wat zou deze afbeelding veranderen?

Drie dingen, in volgorde van hoeveel ze zouden oplossen.

Eerst een repository. Een Hub- of ModelScope-pagina met een config, een licentie en een kaart zou het grootste deel van de bovenstaande alinea van gevolgtrekking naar feit omzetten, en zou de config-standaardwaarden waarover ik waarschuwde onmiddellijk iets geven om tegen te controleren.

Ten tweede: een benchmark op basis van primaire bronnen. De MiniCPM5-2B-kaart bevatte een suitegemiddelde van 53,9 en per-taakcellen voor LiveCodeBench, AIME en SWE-bench; een 15B-A2.5B zonder equivalente tabel is een model waarvan de hele waardepropositie ongemeten is. Een vermelding in Artificial Analysis zou dat oplossen, aangezien die onafhankelijk van de leverancier is.

Ten derde, een samengevoegde port. Elke hier beschreven patch is ofwel gesloten, een concept, of bevindt zich op een private fork. Ondersteuning die alleen bestaat in een niet-samengevoegde pull request is ondersteuning die je niet kunt installeren, en — zoals de divergentie tussen Triton en FA3 laat zien — wordt correctheid op deze architectuur nog kernel voor kernel vastgesteld.

De praktische consequentie voor een lezer vandaag is simpel: niets te downloaden, niets aan te roepen, niets te migreren. Wat een model als dit verandert wanneer het er eenmaal is, is de beslissing waar een workload draait, en die beslissing wordt meestal onder tijdsdruk met onvolledige informatie genomen — precies de situatie waarvoor een routeringslaag bestaat. OrcaRouter zet 200+ gehoste modellen achter één API tegen de lijstprijs van de provider zonder extra markup, dus de vergelijking die je zou willen uitvoeren, dit checkpoint tegen wat je vandaag ook aanroept, kost niets om op te zetten zodra iemand het host; automatische failover betekent dat een model in zijn eerste week nooit in zijn eentje een productiepad hoeft te dragen. Niets daarvan vereist dat MiniCPM5-15B-A2.5B beschikbaar is, en wij serveren het niet — het is het vangnet rond de modellen waar je al op vertrouwt terwijl een nog niet uitgebracht model zich bewijst.

Tot dan is de eerlijke samenvatting degene die de llama.cpp-thread ons gaf: de GGUFs bestaan, en ze zijn niet openbaar. Vier runtimes hebben al de code geschreven om ze te laden. Houd de organisatiepagina van OpenBMB en de twee open pull requests in de gaten, in die volgorde — een repository die verschijnt is het signaal, en een samengevoegde port is de bevestiging dat de architectuur is wat deze patches zeggen dat ze is.