Kort med titeln MiniCPM5-15B-A2.5B, underrubrik Ported av fyra körtider, nedladdningsbart av ingen, med bockmarkerade kort för SGLang, llama.cpp, OpenVINO och InfiniLM bredvid ett kort med Nej på förråd, och märken som anger 15B totalt, A2.5B aktiva och DSpark-utkast finns
Engineering & Research

MiniCPM5-15B-A2.5B: Porterad av fyra körtider – nedladdningsbar av ingen

Författare

Gideon Frost

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Den 16 november 2026 dök en pull request upp i llama.cpp med titeln "xcy/models: lägg till stöd för MiniCPM5 MoE-inferens". Det är ett noggrant genomfört arbete – en ny arkitekturpost, en konverteringsväg, tester – och den innehöll en rad i valideringsavsnittet som en maintainer fastnade för: författaren hade kört den mot "befintliga MiniCPM5-15B-A2.5B GGUFs" på en H800. CISC ställde den uppenbara frågan. Inte offentligt ännu, så vitt jag kan bedöma? tc-mb, vars GitHub-profil anger medlemskap i MiniCPM-V- och MiniCPM-o-projekten, svarade med ett ord: "ok". Pull requesten stängdes utan att slås samman två dagar senare, och modellen som dessa GGUFs tillhör – MiniCPM5-15B-A2.5B, den glesa mixture-of-experts-posten i OpenBMB:s MiniCPM5-serie – har fortfarande inget repository, inget modellkort, ingen licensfil och inget tillkännagivande som vi kunnat hitta någonstans.

Det här är en artikel om vad vi vet hittills, och hur bevisen ser ut spelar större roll än vanligt. Det finns ingen produktsida att läsa och inget leverantörsbenchmark att argumentera emot. Det som finns är en uppsättning motorpatchar från fyra separata inferensstackar, skrivna av personer som hade checkpointen framför sig, plus deras testloggar. Det räcker för att beskriva MiniCPM5 MoE:s arkitektur ganska exakt och för att säga något ärligt om hur mogen supporten är. Det räcker inte för att säga vad modellen presterar, vad den kostar eller när du kan köra den.

Vad namnet får berätta för dig

Checkpoint-namnet är det enda specifikationsblad som någon utanför ModelBest har publicerat. MiniCPM5-15B-A2.5B läses som 15B totala parametrar med 2,5B aktiva per token – den konvention för totalt och aktiva parametrar som alla glesa MoE-modeller i den här storleksklassen har använt sedan Mixtral. Inget i någon patch motsäger det, och SGLang-portens egna testanteckningar hänvisar till "den ursprungliga 15B-checkpointkonfigurationen" som att den löses upp utan ändring, vilket är förenligt.

Allt efter det är gissningar, och det är värt att vara rak på sak om varför. SGLang-patchen lägger till en MiniCPM5Config-klass vars standardvärden anger 32 lager, 4 096 dolda dimensioner, 32 huvuden, 64 routade experter, 2 delade experter och en expert-FFN med bredd 1 407. Det är klassstandardvärden ärvda från en GLM-4-mall, inte checkpointens värden – samma fil har standardvärdet en vokabulär på 32 000 token, vilket ingen frontier-nära modell från 2026 har levererats med. Läs dem inte som specifikationer. Det enda tal som ser ut att kunna vara verkligt är den routade skalningsfaktorn 3,66, som förekommer i llama.cpps arkitekturtest och i konverteringstestets fixture; en fixture är fortfarande en fixture, så behandla 3,66 som "talet som testerna skrevs kring" snarare än som en bekräftad konstant.

Arkitektur, avläst från fyra patchar

Fyra oberoende portningar konvergerar mot samma beskrivning, vilket är det mest betryggande med den här läckan. SGLang-patchen är den mest explicita: modellen "följer GLM-4.5 MoE, med tre skillnader" – gated attention, fullständiga rotary-embeddings utan q/k-normalisering, och en router som beräknas i modellens egen dtype i stället för att upcastas.

• Gated attention – query-projektionen skickar ut en sigmoidgrind per huvud tillsammans med queryn, sammanflätad inuti varje huvuds rader. llama.cpp-konverteringen måste dela isär dem tensor för tensor, vilket är anledningen till att båda portningarna framhåller det.

• Tätt inledningsskikt, sedan experter — de första first_k_dense_replace lagren är vanliga FFN:er; endast lagren efter det routar. tc-mb:s fork-patch noterar att varken den befintliga qwen35moe- eller minicpm-arkitekturen modellerar den formen, vilket är anledningen till att MiniCPM5 MoE behövde en egen arkitekturpost i stället för en flagga på en befintlig.

• Routade plus delade experter — sigmoid-gating, normaliserade top-k-vikter och en gren för delade experter vid sidan av de routade. llama.cpp läser en FP32-korrigeringsbias för routern (e_score_correction_bias) per MoE-lager, samma biasterm som DeepSeek-liknande routrar använder för att hålla expertbelastningen balanserad.

• Fullständig rotary, ingen q/k norm – en vanlig RoPE över head-dimensionen, där konverteringen bevarar head-dimensionen explicit i stället för att härleda den från hidden size delat med antalet heads.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark är den andra halvan av historien, och det är anledningen till att den här läckan är intressant snarare än bara prydlig. DSpark är spekulativ avkodning med en tränad utkastmodell – samma algoritm som OpenBMB redan har släppt för MiniCPM5-2B och MiniCPM-V 4.7 – och både SGLang- och llama.cpp-patcharna lägger till MiniCPM5 MoE som ett DSpark-{{2}}mål{{/2}}{{3}}. En separat utkast-checkpoint med namnet MiniCPM5-15B-A2.5B-DSpark refereras i llama.cpp-dokumentationens exempel, vilket innebär att utkastet också finns, i vilket privat arkiv målet än ligger i.{{/3}}mål. En separat utkast-checkpoint med namnet MiniCPM5-15B-A2.5B-DSpark refereras i llama.cpp-dokumentationens exempel, vilket innebär att utkastet också finns, i vilket privat arkiv målet än ligger i.

Fyra motorer, en ännu ej släppt checkpoint

Tidslinjen är det som gör detta värt att skriva om. Portar brukar inte ligga så här långt före en release över så här många stackar:

• 2026-09-17 — Megatron-LM-patcher på en MUSA-fork möjliggör hantering av MoE-capacity-factor och dropless routing som standard för "minicpm5". På träningssidan, och det tidigaste spåret vi hittade.

• 2026-10-14 — InfiniTensors InfiniLM öppnar en patch som möjliggör MiniCPM5 MoE på Denglin QY-backenden med FlashAttention och MoE/RoPE-kärnor för lång kontext; en uppföljning den 2026-11-12 lägger till säkerhet för CUDA-graph-capture och en bf16-avkodningsväg.

• 2026-11-13 — tc-mb:s llama.cpp-omni-fork lägger till MiniCPM5 MoE-arkitekturen, och en andra patch samma dag kopplar in expertregioner i kvantiseraren. Verifieringsavsnittet rapporterar Frankrikes huvudstad är kompletteras till Paris. och 17×23 returnerar 391.

• 2026-11-16 — pull requesten i uppströmsversionen av llama.cpp. Stängdes 2026-11-18, osammanfogad, där konverteringsvägen sköts utanför omfånget och återupptogs tre dagar senare i forken.

• 2026-11-19 — SGLang öppnar en port kl. 09:39, stänger den och öppnar den igen kl. 10:19 under en omdöpt gren. Samma morgon öppnar en Intel-ingenjör en optimum-intel-patch vars allra första kodblock är ett exportkommando som anger openbmb/MiniCPM5-15B-A2.5B som sin indata.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Det sista är det närmaste man kommer ett avgörande bevis: optimum-intel-patchen beskriver inte en hypotetisk modell — den kör optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 och rapporterar noggrannhet jämfört med originalet. Den som skrev den hade vikterna. Hub-sökvägen den anger returnerar ingenting för en anonym förfrågan, och OpenBMB:s egen MiniCPM README listar fortfarande 2026-09-07 och 2B som senaste version, utan någon MoE-post någonstans i sin modelltabell.

Vad testloggarna faktiskt visar

Det här är delen som ska läsas långsamt, eftersom siffrorna i de här patcharna är tekniska kontroller, inte riktmärken, och två av dem är misslyckanden.

Körningen med llama.cpp är den mest omfattande. Med vikterna BF16, Q8_0 och Q4_K_M producerades och accepterades DSpark-utkasttoken på en H800 med utkastet vid --spec-draft-n-max 2. Åtta tokenizerprover matchade Hugging Face-tokenizern exakt. NMSE för CPU kontra CUDA på det syntetiska arkitekturtestet var 1.00e-06. Och sedan förbehållet, med författarens egna ord: vanlig greedy-avkodning och DSpark-avkodning "visade skillnader på tokennivå", orsaken "har inte karakteriserats fullständigt", och utdataekvivalens "är inte fastställd". Det finns ingen logits-paritetskörning mot den ursprungliga checkpointen, ingen kvalitetsutvärdering och ingen prestandasiffra. Författaren säger rakt ut att inget påstående om snabbare körning görs.

SGLang-körningen är mer informativ eftersom den isolerar en variabel. Med Triton-attention utförde DSpark 93 verifieringssteg över fyra genereringar på 64 tokens och avvek från vanlig avkodning för varje prompt. Med FA3-attention gav samma 15B-checkpoint och draft matchande giriga token-ID:n för alla fyra. Triton-avvikelsen är fortfarande öppen i patchen så som den är skriven. Läs det som det är: en skillnad i kernelvägen som någon har hittat och ännu inte förklarat, inte ett uttalande om modellen.

OpenVINO-siffrorna är den enda kvantitativa kvalitetssignalen i hela uppsättningen, och de är blygsamma. Jämfört med originalmodellen i FP32 över 26 prompter och 128 nya tokens var WWB-textlikhetspoängen 0,9934 för bf16 på CPU, 0,9455 för int8 och 0,8710 för int4 under GenAI SDPA-backenden; på en B70 GPU 0,9498 för int8 och 0,8646 för int4. En int4-konvertering som landar på 0,87 är ett konverteringstrohetsresultat — det säger att den kvantiserade grafen avviker från referensen, inte att referensen är bra. Ingen har publicerat en benchmarkpoäng för MiniCPM5-15B-A2.5B, och tills någon gör det finns det ingen grund för att kalla den stark eller svag.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Var den skulle placeras om den släpps

OpenBMB:s MiniCPM5-serie är hittills ett argument om densitet. 1B släpptes 2026-05-19 och 2B 2026-09-07, båda densa, båda Apache-2.0, båda byggda för distribution på enhet – 2B är en vanlig LlamaForCausalLM utan anpassade kärnor, vilket är precis anledningen till att den porterades till llama.cpp, MLX, ONNX och ett halvt dussin NPU-verktygskedjor inom några veckor. Ett syskon med 15B totalt och 2,5B aktiva skulle vara den första MiniCPM5 som inte är en edge-modell: samma aktiva budget som 2B, ungefär sex gånger de lagrade vikterna och ett routningslager som måste serveras väl för att vara värt sitt minne.

Den inramningen förklarar också den märkliga formen på den här läckan. Om MiniCPM5 MoE är tänkt för servering snarare än telefoner, är motorportningarna inte en trevlig extrafunktion som släpps efter lansering – de är en förutsättning för lanseringen, och någon gör dem tidigt. Att samma GitHub-konto öppnade både llama.cpp- och SGLang-portningarna, att en medlem i MiniCPM-projektet landar fork-patcharna och att en draft-checkpoint redan finns för DSpark pekar allt i samma riktning: det här är en modell som förbereds för release av personer med tillgång till den, inte ett rykte sammanställt från changelogs.

Vad skulle förändra den här bilden?

Tre saker, i ordning efter hur mycket de skulle avgöra.

Först, ett repository. En Hub- eller ModelScope-sida med en config, en licens och ett kort skulle omvandla större delen av stycket ovan från slutledning till faktum och omedelbart ge de config-standardvärden jag varnade för något att kontrolleras mot.

För det andra: ett benchmark med primärkällor. MiniCPM5-2B-kortet hade ett svitgenomsnitt på 53,9 och celler per uppgift för LiveCodeBench, AIME och SWE-bench; en 15B-A2.5B utan en motsvarande tabell är en modell vars hela värdeerbjudande är omätt. En post i Artificial Analysis skulle fylla den rollen, eftersom den är oberoende av leverantören.

För det tredje, en sammanslagen port. Varje patch som beskrivs här är antingen stängd, ett utkast eller ligger i en privat fork. Stöd som bara finns i en icke sammanslagen pull request är stöd du inte kan installera, och – som divergensen mellan Triton och FA3 visar – håller korrektheten på den här arkitekturen fortfarande på att fastställas kärna för kärna.

Den praktiska konsekvensen för en läsare i dag är enkel: inget att ladda ner, inget att anropa, inget att migrera. Det en modell som denna förändrar när den väl landar är beslutet om var en arbetsbelastning ska köras, och det beslutet fattas vanligtvis under tidspress med ofullständigt underlag – vilket är precis den situation en routing-layer finns till för. OrcaRouter sätter 200+ hostade modeller bakom ett enda API till leverantörens listpris utan påslag, så jämförelsen du skulle vilja göra, den här checkpointen mot vad du än anropar i dag, kostar ingenting att sätta upp när någon väl hostar den; automatisk failover innebär att en modell i sin första vecka aldrig behöver hålla en produktionsväg på egen hand. Inget av detta kräver att MiniCPM5-15B-A2.5B är tillgänglig, och vi serverar den inte – den är skyddsnätet runt de modeller du redan förlitar dig på medan en osläppt modell bevisar sig.

Fram till dess är den ärliga sammanfattningen den som llama.cpp-tråden gav oss: GGUFs finns, och de är inte offentliga. Fyra körmiljöer har redan skrivit koden för att läsa in dem. Håll ett öga på OpenBMBs organisationssida och de två öppna pull requestarna, i den ordningen — att ett repository dyker upp är signalen, och en mergad portning är bekräftelsen på att arkitekturen är vad dessa patchar säger att den är.