Scheda intitolata MiniCPM5-15B-A2.5B, sottotitolata Portata da quattro runtime, non scaricabile da nessuno, con schede contrassegnate da un segno di spunta per SGLang, llama.cpp, OpenVINO e InfiniLM accanto a una scheda Nessun repository, e badge che riportano 15B totali, A2.5B attivi e bozza DSpark esistente
Engineering & Research

MiniCPM5-15B-A2.5B: portato su quattro runtime, non scaricabile da nessuno

Autore

Gideon Frost

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Il 2026-11-16 è apparso in llama.cpp una pull request intitolata "xcy/models: add MiniCPM5 MoE inference support". È un lavoro accurato — una nuova voce di architettura, un percorso di conversione, test — e conteneva una riga nella sua sezione di convalida sulla quale un maintainer si è soffermato: l'autore l'aveva eseguito su "pre-existing MiniCPM5-15B-A2.5B GGUFs" su una H800. CISC ha posto la domanda ovvia. Non ancora pubblico, per quanto ne so? tc-mb, il cui profilo GitHub indica l'appartenenza ai progetti MiniCPM-V e MiniCPM-o, ha risposto con una parola: "ok". La pull request è stata chiusa senza essere unita due giorni dopo, e il modello a cui appartengono quei GGUF — MiniCPM5-15B-A2.5B, la voce sparse mixture-of-experts della linea MiniCPM5 di OpenBMB — non ha ancora alcun repository, alcuna model card, alcun file di licenza e alcun annuncio che siamo riusciti a trovare da nessuna parte.

Quindi questo è un articolo su ciò che sappiamo finora, e la forma delle prove conta più del solito. Non c'è una pagina di prodotto da leggere né un benchmark del fornitore con cui discutere. Quello che esiste è un insieme di patch dei motori provenienti da quattro stack di inferenza separati, scritte da persone che avevano il checkpoint davanti a loro, più i loro log dei test. È sufficiente per descrivere l'architettura di MiniCPM5 MoE in modo abbastanza preciso e per dire qualcosa di onesto su quanto sia maturo il supporto. Non è sufficiente per dirti quali punteggi ottiene il modello, quanto costa o quando potrai eseguirlo.

Cosa il nome è autorizzato a dirti

Il nome del checkpoint è l'unica scheda tecnica che qualcuno al di fuori di ModelBest abbia mai pubblicato. MiniCPM5-15B-A2.5B si legge come 15B parametri totali con 2,5B attivi per token — la convenzione totale-e-attivi usata da ogni MoE sparso di questa classe dimensionale da Mixtral in poi. Nulla in alcuna patch lo contraddice, e le note di test della porta SGLang si riferiscono a "la configurazione originale del checkpoint 15B" che si risolve senza modifiche, il che è coerente.

Tutto ciò che viene dopo è congettura, e vale la pena essere schietti sul perché. La patch di SGLang aggiunge una classe MiniCPM5Config i cui valori predefiniti indicano 32 layer, 4.096 dimensioni nascoste, 32 teste, 64 esperti instradati, 2 esperti condivisi e una FFN esperta di ampiezza 1.407. Quelli sono valori predefiniti della classe ereditati da un template GLM-4, non i valori del checkpoint — lo stesso file ha come valore predefinito un vocabolario da 32.000 token, con cui nessun modello del 2026 vicino alla frontiera è stato rilasciato. Non interpretarli come specifiche. L'unico numero che sembra poter essere reale è il fattore di scaling routed di 3,66, che compare nel test dell'architettura di llama.cpp e nella fixture del test di conversione; una fixture resta una fixture, quindi considera 3,66 come «il numero attorno a cui sono stati scritti i test» anziché come una costante confermata.

Architettura, come si evince da quattro patch

Quattro port indipendenti convergono sulla stessa descrizione, ed è la cosa più rassicurante di questa fuga di notizie. La patch di SGLang è la più esplicita: il modello "segue GLM-4.5 MoE, con tre differenze" — attenzione gated, embedding rotazionali completi senza normalizzazione q/k e un router calcolato nel dtype del modello stesso anziché con upcast.

• Gated attention — la proiezione della query emette un gate sigmoideo per head insieme alla query, interlacciato all'interno delle righe di ciascuna head. La conversione per llama.cpp deve separarli tensore per tensore, ed è per questo che entrambi i port lo evidenziano.

• Parte iniziale densa, poi gli esperti — i primi first_k_dense_replace layer sono FFN ordinari; solo i layer successivi eseguono il routing. Le note della patch del fork di tc-mb rilevano che né l'architettura esistente qwen35moe né minicpm modellano quella forma, motivo per cui MiniCPM5 MoE ha richiesto una propria voce di architettura anziché un flag su una esistente.

• Esperti instradati più esperti condivisi — gating sigmoide, pesi top-k normalizzati e un ramo di esperti condivisi accanto a quelli instradati. llama.cpp legge un bias di correzione del router FP32 (e_score_correction_bias) per ogni layer MoE, lo stesso termine di bias che i router in stile DeepSeek usano per mantenere bilanciato il carico degli esperti.

• Rotary completo, nessuna norm q/k — un RoPE semplice lungo la dimensione della testa, con la conversione che preserva esplicitamente la dimensione della testa invece di derivarla dalla dimensione nascosta divisa per il numero di teste.

optimum-intel pull request #2133 showing an optimum-cli export openvino command that names openbmb/MiniCPM5-15B-A2.5B as its input, followed by a WWB text-similarity table

DSpark è la seconda metà della storia, ed è il motivo per cui questa fuga di notizie è interessante e non solo ordinata. DSpark è la decodifica speculativa con un modello draft addestrato — lo stesso algoritmo che OpenBMB ha già rilasciato per MiniCPM5-2B e MiniCPM-V 4.7 — e sia la patch SGLang sia quella llama.cpp aggiungono MiniCPM5 MoE come DSpark target. Un checkpoint draft separato chiamato MiniCPM5-15B-A2.5B-DSpark è citato nell'esempio della documentazione di llama.cpp, il che significa che esiste anche il draft, in qualunque archivio privato in cui risieda il target.

Quattro motori, un checkpoint non rilasciato

La tempistica è ciò che rende questo argomento degno di essere scritto. Normalmente i port non precedono così tanto un rilascio su così tanti stack:

• 2026-09-17 — Le patch di Megatron-LM su un fork MUSA abilitano la gestione del fattore di capacità per MoE e il routing senza scarto (dropless) come impostazione predefinita per "minicpm5". Lato addestramento, ed è la traccia più antica che abbiamo trovato.

• 2026-10-14 — InfiniLM di InfiniTensor apre una patch che abilita MiniCPM5 MoE sul backend Denglin QY con FlashAttention e kernel MoE/RoPE per contesti lunghi; un seguito del 2026-11-12 aggiunge la sicurezza della cattura CUDA-graph e un percorso di decodifica bf16.

• 2026-11-13 — il fork llama.cpp-omni di tc-mb aggiunge l'architettura MiniCPM5 MoE, e una seconda patch lo stesso giorno collega le regioni degli esperti al quantizzatore. La sezione di verifica riporta La capitale della Francia è completando in Parigi. e 17×23 che restituisce 391.

• 2026-11-16 — la pull request upstream di llama.cpp. Chiusa il 2026-11-18, non integrata, con il percorso di conversione spostato fuori ambito e rivisto tre giorni dopo nel fork.

• 2026-11-19 — SGLang apre una porta alle 09:39, la chiude e la riapre alle 10:19 sotto un branch rinominato. La stessa mattina, un ingegnere Intel apre una patch di optimum-intel il cui primissimo blocco di codice è un comando di export che nomina openbmb/MiniCPM5-15B-A2.5B come suo input.

Scoreboard titled MiniCPM5-15B-A2.5B — what the patches measured, listing weights tested BF16 Q8_0 and Q4_K_M, drafts accepted on one H800 at TP=1, tokenizer match of 8 of 8 samples, CPU versus CUDA NMSE of 1.00e-06, OpenVINO int4 similarity of 0.8710, and no published benchmark score

Quello ultimo è la cosa più vicina a una prova schiacciante. La patch di optimum-intel non descrive un modello ipotetico — esegue optimum-cli export openvino -m openbmb/MiniCPM5-15B-A2.5B --weight-format int4 e riporta l'accuratezza rispetto all'originale. Chi l'ha scritta aveva i pesi. Il percorso dell'Hub che indica non restituisce nulla a una richiesta anonima, e il README di MiniCPM di OpenBMB elenca ancora 2026-09-07 e il 2B come ultima release, senza alcuna voce MoE nella sua tabella dei modelli.

Cosa mostrano effettivamente i log del test

Questa è la parte da leggere lentamente, perché i numeri in queste patch sono controlli di ingegneria, non benchmark, e due di essi sono fallimenti.

L'esecuzione di llama.cpp è la più ampia. I pesi BF16, Q8_0 e Q4_K_M hanno tutti prodotto e accettato token di bozza DSpark su un H800 con la bozza impostata su --spec-draft-n-max 2. Otto campioni del tokenizer corrispondevano esattamente al tokenizer di Hugging Face. L'NMSE CPU rispetto a CUDA sul test sintetico dell'architettura era 1.00e-06. E poi l'avvertenza, nelle parole stesse dell'autore: la decodifica greedy ordinaria e quella DSpark "hanno mostrato differenze a livello di token", la causa "non è stata completamente caratterizzata" e l'equivalenza dell'output "non è stabilita". Non esiste un'esecuzione di parità dei logits rispetto al checkpoint originale, né una valutazione della qualità né un dato sulle prestazioni. L'autore afferma chiaramente che non viene avanzata alcuna rivendicazione di accelerazione.

L'esecuzione con SGLang è più informativa perché isola una variabile. Con l'attenzione Triton, DSpark ha eseguito 93 passaggi di verifica su quattro generazioni da 64 token e si è discostato dalla decodifica ordinaria su ogni prompt. Con l'attenzione FA3, lo stesso checkpoint da 15B e la stessa bozza hanno prodotto ID dei token greedy corrispondenti su tutte e quattro. La discrepanza di Triton è ancora aperta nella patch così com'è scritta. Leggila per quello che è: una differenza nel percorso del kernel che qualcuno ha trovato e non ha ancora spiegato, non un'affermazione sul modello.

I numeri di OpenVINO sono l'unico segnale quantitativo di qualità in tutto l'insieme, e sono modesti. Rispetto al modello originale in FP32 su 26 prompt e 128 nuovi token, il punteggio di similarità testuale di WWB è stato 0.9934 per bf16 su CPU, 0.9455 per int8 e 0.8710 per int4 con il backend GenAI SDPA; su una GPU B70, 0.9498 per int8 e 0.8646 per int4. Una conversione int4 che si attesta a 0.87 è un risultato di fedeltà della conversione — indica che il grafo quantizzato si discosta dal riferimento, non che il riferimento sia buono. Nessuno ha pubblicato un punteggio di benchmark per MiniCPM5-15B-A2.5B, e finché qualcuno non lo farà, non c'è alcuna base per definirlo forte o debole.

llama.cpp pull request #32386 whose validation section begins Tested pre-existing MiniCPM5-15B-A2.5B GGUFs and lists Q8_0, Q4_K_M and DSpark results, with a Limitations note stating no speedup claim is made

Dove si troverebbe se venisse rilasciato

La linea MiniCPM5 di OpenBMB è, finora, un discorso sulla densità. Il 1B è stato rilasciato il 2026-05-19 e il 2B il 2026-09-07, entrambi densi, entrambi Apache-2.0, entrambi progettati per il deployment on-device — il 2B è un semplice LlamaForCausalLM senza kernel personalizzati, ed è proprio per questo che è stato portato su llama.cpp, MLX, ONNX e una mezza dozzina di toolchain NPU nel giro di settimane. Un fratello da 15B totali e 2,5B attivi sarebbe il primo MiniCPM5 a non essere un modello edge: lo stesso budget attivo del 2B, circa sei volte i pesi memorizzati, e un layer di routing che deve essere servito bene per valere la sua memoria.

Quella lettura spiega anche la strana forma di questo leak. Se MiniCPM5 MoE è pensato per il serving anziché per gli smartphone, allora i port degli engine non sono un optional da distribuire dopo il lancio — sono un prerequisito del lancio, e qualcuno li sta realizzando in anticipo. Il fatto che lo stesso account GitHub abbia aperto sia i port per llama.cpp sia quelli per SGLang, che un membro del progetto MiniCPM stia integrando le patch del fork e che esista già un checkpoint bozza per DSpark punta tutto nella stessa direzione: questo è un modello che viene preparato per il rilascio da persone che vi hanno accesso, non una voce messa insieme leggendo i changelog.

Cosa cambierebbe questo quadro?

Three things, in order of how much they would settle.

Primo: un repository. Una pagina Hub o ModelScope con una configurazione, una licenza e una scheda convertirebbe gran parte del paragrafo precedente da inferenza a fatto e fornirebbe immediatamente qualcosa con cui confrontare i valori predefiniti di configurazione di cui avevo avvertito.

In secondo luogo, un benchmark di fonte primaria. La scheda di MiniCPM5-2B riportava una media di suite di 53,9 e celle per attività per LiveCodeBench, AIME e SWE-bench; un 15B-A2.5B senza una tabella equivalente è un modello la cui intera proposta di valore resta non misurata. Una voce in Artificial Analysis farebbe al caso, dato che è indipendente dal fornitore.

Terzo, un port integrato. Ogni patch descritta qui è chiusa, in bozza o presente su un fork privato. Il supporto che esiste solo in una pull request non integrata è supporto che non puoi installare e — come mostra la divergenza tra Triton e FA3 — la correttezza su questa architettura viene ancora stabilita kernel per kernel.

La conseguenza pratica per un lettore oggi è semplice: niente da scaricare, niente da chiamare, niente da migrare. Ciò che un modello come questo cambia quando arriva davvero è la decisione su dove viene eseguito un carico di lavoro, e quella decisione viene di solito presa sotto pressione temporale con prove incomplete — che è la situazione per cui esiste un livello di routing. OrcaRouter mette oltre 200 modelli ospitati dietro un'unica API al prezzo di listino del provider senza alcun ricarico aggiunto, quindi il confronto che vorresti eseguire, questo checkpoint rispetto a qualunque cosa tu utilizzi oggi, non costa nulla da allestire una volta che qualcuno lo ospita; il failover automatico significa che un modello alla sua prima settimana non deve mai sostenere da solo un percorso di produzione. Niente di tutto ciò richiede che MiniCPM5-15B-A2.5B sia disponibile, e noi non lo serviamo — è la rete di sicurezza attorno ai modelli da cui già dipendi mentre uno non ancora rilasciato si dimostra all'altezza.

Fino ad allora il riepilogo onesto è quello che ci ha dato il thread di llama.cpp: i GGUFs esistono, e non sono pubblici. Quattro runtime hanno già scritto il codice per caricarli. Tieni d'occhio la pagina dell'organizzazione OpenBMB e le due pull request aperte, in quest'ordine — la comparsa di un repository è il segnale, e un port mergiato è la conferma che l'architettura è quella che queste patch dichiarano.