MiniCPM5-2B contro Gemma 4 12B: Il leader della classifica Sub-4B contro il generalista da 12B di Google

I materiali di lancio di MiniCPM5-2B contengono una frase che sembra chiudere ogni discussione prima ancora che inizi: alla Conferenza Mondiale sull'Intelligenza Artificiale del 19 luglio, ModelBest e OpenBMB hanno definito il modello come il primo in classifica su Artificial Analysis tra i modelli sotto i 4 miliardi di parametri, e i suoi pesi aperti sono ora comparsi in sordina su Hugging Face. Gemma 4 12B è la risposta di Google da una classe di peso completamente diversa: un generalista multimodale denso da 11,95 miliardi di parametri, privo di encoder, rilasciato il 3 giugno, che accetta testo, immagini, audio e video come input e ha alle spalle mesi di implementazione da parte della community. Confrontarli non è un esercizio da scheda tecnica; è una decisione su quale sarà il dispositivo di destinazione, perché un modello che guida la propria classe dimensionale e un modello semplicemente più grande rispondono a diverse domande hardware.

Il tempismo è il motivo per cui questo confronto esiste. MiniCPM5-2B è stato presentato al WAIC a luglio come prodotto — una storia di chip tanto quanto una storia di modelli, con nove partner siliconici day-zero della sua comunità FlagOS — e i pesi sono stati promessi “nel prossimo futuro”. Sette settimane dopo, il repository openbmb/MiniCPM5-2B è apparso su Hugging Face (il changelog di OpenBMB data il rilascio al 7 settembre), con licenza Apache-2.0, senza gating, con il checkpoint BF16, GGUF, MLX, GPTQ, i checkpoint base e SFT e i dataset di addestramento tutti nella stessa raccolta. Nessun comunicato stampa, nessun evento di lancio. Al momento in cui scriviamo, la scheda del modello è l’annuncio, e nessuna esecuzione di benchmark indipendente è stata ancora pubblicata: ogni dato quantitativo sul 2B qui sotto è una riproduzione di ModelBest oppure deriva dallo snapshot di Artificial Analysis citato nella scheda stessa. Gemma 4 12B, al contrario, è stato lanciato attraverso i normali meccanismi di Google ed è stato scaricato milioni di volte. Questo divario di evidenze fa parte del confronto, non è una sua nota a piè di pagina.

Cosa è appena cambiato su ciascun lato

MiniCPM5-2B è il secondo modello della serie MiniCPM5, dopo il MiniCPM5-1B che OpenBMB ha rilasciato come open-source il 19 maggio. La scheda descrive un transformer denso con 2.516.756.480 parametri totali (1.981.982.720 non-embedding — la cifra che giustifica l'etichetta "classe 2B"), 42 layer con hidden size di 2048, grouped-query attention con 16 query head e solo 2 KV head, e un vocabolario di 130.560 token. Si tratta di una semplice architettura LlamaForCausalLM — la scheda è esplicita sul fatto che non servano kernel personalizzati né fork del codice del modello — e l'intero checkpoint viene distribuito come un unico shard safetensors in BF16. La scelta progettuale interessante riguarda il post-training: SFT su 400B token di dati di deep-thinking, quindi On-Policy Distillation che riconduce sedici modelli esperti RL, cinque dei quali agentici, in un'unica piccola rete densa. La scheda attribuisce a RL + OPD un guadagno medio di 10,96 punti su compiti di ragionamento e generali e di 6,96 punti su quelli agentici — delta interni, ma che spiegano la forma di questo modello: un 2B pensato per essere un agente on-device, che genera nativamente chiamate di tool in stile XML.

Gemma 4 12B occupa una posizione diversa nella gamma di Google. È il figlio di mezzo della famiglia Gemma 4 — sopra i modelli E2B ed E4B orientati all'edge, sotto il MoE da 26B e il modello di frontiera da 31B — ed è l'unico membro costruito su un design senza encoder: patch di immagini grezze e forme d'onda audio vengono proiettate direttamente nello spazio dei token, così un unico modello denso gestisce input di testo, immagini, audio e video senza alcuna torre di encoder separata. Offre una finestra di contesto di 256K, tool calling pronto all'uso, un passaggio di ragionamento opzionale e drafter a predizione multi-token che accelerano la decodifica dall'interno del checkpoint. È Apache-2.0, utilizzabile su hardware di classe 16GB (circa 8GB in 4 bit), e la sua pagina Hugging Face mostra milioni di download al mese.

L'affermazione sulla classifica e la fascia dimensionale che esclude

Il dato di punta di ModelBest per MiniCPM5-2B è un Artificial Analysis Intelligence Index di 17, il primo tra i modelli sotto i 4 miliardi di parametri al lancio. Due precisazioni vanno accanto a questo numero. Il punteggio riflette lo snapshot v4.1 di AA e non è direttamente confrontabile con i valori dell'indice degli snapshot precedenti; è inoltre una cifra riferita al momento del lancio, citata dal fornitore prima di qualsiasi riesecuzione indipendente. La lettura onesta è più circoscritta, e resta impressionante: al suo rilascio, con la metodologia AA del tempo, questo modello da 2,5 miliardi di parametri era in testa all'intera classe dimensionale. Gemma 4 12B non compare in quella classe, e oggi, sulle pagine di Artificial Analysis, il suo indice è più alto — circa 22 per la variante reasoning e 13 per il modello instruct non-reasoning, entrambi «ben sopra la media» per il loro gruppo di pari. Gli indici di snapshot diversi non si allineano con precisione, quindi va letto come una direzione, non come una misura esatta: il generalista da 12B risulta il modello più capace, e il modello da 2B risulta il più capace della sua fascia. Sono affermazioni diverse, ed entrambe possono essere vere.

Il tabellone, etichettato onestamente

Leggi queste righe tenendo presente le fonti: le cifre di MiniCPM5-2B sono dichiarazioni della scheda ModelBest, risalenti a una settimana fa e non riprodotte; quelle di Gemma 4 12B sono fornite da Google e da tempo esposte all'uso della comunità:

• Dimensione — MiniCPM5-2B: 2,52B totali / 1,98B non-embedding, denso. Gemma 4 12B: 11,95B, denso.

• Modalità — MiniCPM5-2B: solo testo. Gemma 4 12B: input di testo, immagine, audio e video, senza encoder.

• Contesto — MiniCPM5-2B: 131.072 token nella configurazione predefinita. Gemma 4 12B: contesto nativo di 256K (alcune ricette di serving lo fissano a 128K).

• Lingue — MiniCPM5-2B: scheda e dati incentrati su inglese e cinese. Gemma 4 12B: 140+ lingue.

• Rilascio — MiniCPM5-2B: annunciato il 19 luglio 2026; pesi disponibili il 6-7 settembre, in sordina. Gemma 4 12B: lanciato il 3 giugno 2026, con valutazioni complete al lancio.

— Prove — MiniCPM5-2B: scheda fornitore più AA v4.1 (Indice 17, #1 sub-4B); nessuna esecuzione indipendente ancora. Gemma 4 12B: valutazioni al lancio più mesi di implementazione community e circa 3,3 milioni di download mensili.

Il tabellone qui sopra è lo stesso ritratto in sei righe: i due modelli discordano su quasi ogni dimensione, e le colonne che decidono la scelta — modalità, lingue, classe di dispositivo — sono quelle che nessuna media di benchmark cattura.

Dove il 12B vince: le cose che un 2B solo testo non può fingere

{{1}}Iniziamo dalla modalità.{{/1}} Gemma 4 12B gestisce nativamente audio, immagini e video; MiniCPM5-2B è solo testo. Qualsiasi prodotto che trascrive, osserva uno schermo o guarda un video richiede una {{2}}seconda pipeline{{/2}} accanto al 2B, e a quel punto il vantaggio del "modello piccolo" evapora in parte. {{3}}Le lingue sono il secondo muro: 140+ contro un rilascio incentrato su inglese e cinese.{{/3}} Per un prodotto che serve una lunga coda di lingue, il 2B non è affatto un candidato. {{4}}E poi ci sono le prove.{{/4}} Gemma 4 12B è stata scaricata milioni di volte, quantizzata, sottoposta a fine-tuning e servita in produzione per tre mesi; i suoi modi di guasto sono documentati e il suo ecosistema comprende llama.cpp, Ollama, LM Studio, MLX, vLLM e SGLang. MiniCPM5-2B è un repository vecchio di una settimana, i cui numeri di punta — incluso un 46.4 su SWE-bench Verified ottenuto dal fornitore, che sarebbe notevole per un modello denso da 2.5B se reggesse a test indipendenti — non sono stati toccati da nessuno al di fuori del laboratorio. {{5}}In termini di sola maturità, non c'è partita.{{/5}}

Dove la 2B è l'unica opzione

Niente di tutto ciò conta nella classe di dispositivi in cui un 12B semplicemente non trova spazio. Un telefono, una scheda per smart cockpit o un piccolo edge box con pochi gigabyte di DRAM non possono trasferire i pesi di un modello da 11.95B sul bus di memoria a una velocità utile — è esattamente il collo di bottiglia che lo strozzerebbe. MiniCPM5-2B è stato progettato per quel mondo: pesi che entrano nella memoria del dispositivo, una finestra da 128K per lunghe sessioni dell'agente, tool calling nativo progettato per l'esecuzione interattiva e adattamento day-zero su nove famiglie di chip più ARM. Se punti a una NPU di classe smartphone o a una scheda embedded, Gemma 4 12B non compete con MiniCPM5-2B; lì non è affatto distribuibile. E se punti a un dispositivo che può gestire un 12B, ma solo a malapena — un laptop da 16GB — il 2B ti dà margine di manovra: una latenza per token più bassa, un minor consumo energetico e la possibilità di eseguire un secondo modello nello stesso ingombro.

Come scoprire quali richieste sopravvivono

Poiché entrambi i modelli sono open-weight e auto-ospitabili, il passo successivo onesto è misurarli sulla tua infrastruttura, non limitarsi a un'altra lettura delle schede. Se stai valutando un MiniCPM5-2B contro un Gemma 4 12B su un workload che già gestisci, è anche qui che uno strato di routing dimostra il suo valore: indirizzare il percorso di test verso un nuovo checkpoint auto-ospitato tramite un'unica API con failover automatico significa che uno stack non collaudato può bloccarsi o andare in loop senza mandare giù la produzione, mentre i prezzi di listino dei provider per qualunque modello tu stia confrontando passano con un ricarico dello 0%. Il modello in sé è un repository vecchio di un giorno, quindi per impostazione predefinita va trattato come un esperimento — ma l'esperimento è economico da eseguire, e le due ore necessarie per riprodurre SWE-bench o una parte del tuo eval set sul modello 2B sono esattamente l'evidenza che manca a questo confronto.

Il verdetto

Scegli Gemma 4 12B quando il tuo hardware ha il margine necessario e il tuo carico di lavoro va oltre il semplice testo — un prodotto multimodale, un pubblico multilingue o qualsiasi cosa in cui tre mesi di comportamento comprovato dalla community contano più di una corona in classifica. Scegli MiniCPM5-2B quando il tuo dispositivo non può reggere affatto un modello 12B, o quando un modello 2.5B capace di gestire il testo e orientato agli agenti, su un chip di classe smartphone, ti permetterebbe di distribuire un prodotto che un modello più grande rende impossibile. Il leader della classifica sotto i 4B è un risultato genuino e il rilascio dei suoi pesi aperti lo rende testabile oggi; semplicemente, sulla base delle prove disponibili, non è un sostituto di un generalista 12B ovunque un 12B possa effettivamente girare.