MiniCPM-V 4.7 ha una Model Card: OpenBMB ha pubblicato i benchmark, la licenza e il claim on-device

Per i primi sei giorni della sua esistenza, MiniCPM-V 4.7 è stata una cartella da 70 GB di tensori bfloat16 senza nient'altro: nessuna model card, nessuna licenza, nessuna tabella di benchmark, nulla che dicesse a cosa serviva. Il 12 ottobre 2026 la situazione è cambiata: openbmb/MiniCPM-V-4.7-35B-A3 ha ricevuto il commit di una model card completa, ha dichiarato una licenza Apache-2.0, ha riscritto il README del repository MiniCPM-V per mettere in primo piano la nuova serie e ha annunciato il rilascio come MLLM open source pensato per iOS, Android e HarmonyOS. Lo stesso intervento di documentazione ha riguardato il fratello da 1B, che ora presenta la stessa identica struttura di model card. Questo articolo parla del delta: di cosa afferma davvero la card, quali di quelle affermazioni puoi verificare da solo e quali oggi esistono soltanto come pixel in un PNG fornito dal fornitore.

Cosa è arrivato il 12 ottobre, e cosa c'era già

I pesi non si sono mossi. openbmb/MiniCPM-V-4.7-1B è stato creato il 6 ottobre 2026 alle 17:40 UTC e openbmb/MiniCPM-V-4.7-35B-A3B il 7 ottobre alle 07:07 UTC; entrambi riportano ancora un timestamp di ultima modifica del 12 ottobre perché quell'ultimo giorno è stato dedicato alla prosa, non ai parametri. Il log dei commit sul repository 35B per il 12 ottobre è uno sprint di documentazione: aggiungi scheda del modello alle 16:08, aggiorna scheda del modello alle 16:15, rinomina 35BA3B alle 16:23, aggiungi metadati alle 16:26, URL assoluti delle risorse alle 16:50, quattro aggiungi introduzione fino alle 17:07, e collega documento LES alle 17:09. Tutto ciò che sta sotto quella riga nella cronologia è init. Il repository è passato da diciotto file e nessuna scheda a una release documentata con immagini, grafici di valutazione, istruzioni di deployment e una licenza, nel giro di circa un'ora.

Questo conta per come leggi l'annuncio, perché un post di lancio non è la stessa cosa di un lancio. Niente del checkpoint è cambiato il 12 ottobre. Quello che è cambiato è che MiniCPM-V 4.7 ha smesso di essere un upload inspiegato ed è diventato un prodotto che puoi valutare sulla carta.

Le due varianti, e perché non sono la stessa release

L'annuncio descrive due modelli, e al di sotto della torre di visione sono architetturalmente estranei l'uno all'altro: uno è un mixture-of-experts sparso, l'altro un piccolo modello denso.

• MiniCPM-V 4.7 35B-A3B — 35,2 miliardi di parametri totali come MoE sparso, 256 esperti con 8 attivi per token, 40 livelli di testo, dimensione nascosta 2.048, 16 teste di query contro 2 teste chiave/valore, posizione massima di 262.144 token, vocabolario 248.144.

• MiniCPM-V 4.7 1B — un denso qwen3_5_text backbone, 24 livelli con dimensione nascosta 1.024, 8 teste di query contro 2 teste key/value, lo stesso contesto di 262.144 token, vocabolario 248.094, un singolo file safetensors da 3,1 GB.

• Torre di visione condivisa — minicpmv4_7_vision, 27 layer con dimensione nascosta 1.152, dimensione patch 14, dimensione immagine 980, inserita al layer 6 dello stack di testo.

• Compressione — downsampling misto 4x e 16x dei token visivi, con la tecnica di compressione anticipata intra-ViT che OpenBMB attribuisce a LLaVA-UHD v4; l'impostazione predefinita è 16x, e 4x è l'impostazione per i dettagli più fini.

• Struttura dell'attenzione — uno schema ripetitivo tre a uno in entrambe le varianti: tre linear_attention strati seguiti da uno full_attention strato, dieci volte sui 40 strati di testo del modello 35B.

• Licenza — Apache-2.0 su entrambi, dichiarata nel front matter della scheda, ed è la prima volta che uno dei due repository enuncia delle condizioni.

Il 35B-A3B è quello con cui si apre l'annuncio ed è quello con la storia ingegneristica interessante: il succo della proposta è che un MoE sparso con 35 miliardi di parametri memorizzati può essere fatto girare senza problemi su un telefono.

La vera novità è la dichiarazione di elaborazione sul dispositivo, e si tratta di un problema di pianificazione

Chiunque abbia provato a eseguire un MoE su un telefono conosce la modalità di guasto. I parametri totali risiedono nello storage, solo una manciata si attiva per token e, su un dispositivo senza la RAM o la larghezza di banda necessarie per contenere ogni esperto, i pesi vengono paginati in entrata e in uscita. Il risultato è una decodifica a una velocità che rende impossibile la conversazione. L'ovvia soluzione alternativa — bloccare il router su un sottoinsieme fisso di esperti per l'intero prompt — lo rende veloce e ne sopprime silenziosamente le capacità, perché i token non possono più raggiungere gli esperti che il modello avrebbe altrimenti scelto.

La risposta di OpenBMB consiste in tre tecniche combinate insieme, e la scheda è insolitamente specifica su ciò che fa ciascuna:

• Lookahead Expert Scheduling (LES) — un predittore di routing cross-layer precarica gli esperti che probabilmente serviranno al livello successivo, dando priorità, tra gli esperti, a quelli che il router reale ha effettivamente selezionato e sovrapponendo la loro computazione al caricamento di tutto ciò che altro è ancora necessario. La scheda ci tiene a precisare che la previsione guida solo il prefetch e la pianificazione; la computazione segue comunque il routing a livello di token del modello stesso, e gli esperti che la previsione ha mancato vengono caricati e valutati come di consueto.

• Quantizzazione a grana fine livello per livello — riduce l'ingombro dei pesi degli esperti e il traffico di memoria, così lo schema di caricamento rientra nella memoria e nella larghezza di banda del dispositivo.

• Campionamento speculativo DSpark — integra il percorso del modello bozza nel ciclo di inferenza del dispositivo, insieme alla pianificazione e alla quantizzazione.

Il numero principale è 13+ token al secondo su un iPhone 17 Pro Max per il 35B-A3B. Si tratta di una misurazione del fornitore, su un dispositivo che non abbiamo visto, usando un'app che non abbiamo eseguito, ed è la singola cifra in questa release che più di ogni altra va presa con le molle finché qualcuno al di fuori del laboratorio non la riproduce. È anche l'affermazione su cui si basa l'intera impostazione "primo MoE open source a funzionare fluidamente sul dispositivo senza compromettere le prestazioni" — un'affermazione che è per definizione difficile da falsificare, perché "senza compromettere le prestazioni" viene misurato rispetto a una baseline che sceglie il fornitore.

La parte della card che rappresenta davvero un'informazione nuova: l'elenco degli ecosistemi

Prima del 12 ottobre non esisteva alcuna ricetta di serving pubblicata. La scheda ora nomina i framework con cui ci si aspetta che il modello lavori, e l'elenco è abbastanza ampio da essere utile indipendentemente da come andranno i benchmark:

• Inferenza — SGLang, vLLM, llama.cpp e Ollama, con un percorso transformers serve per un endpoint locale compatibile con OpenAI e un percorso OpenVINO per CPU, GPU e NPU Intel.

• Fine-tuning — SWIFT e LLaMA-Factory, più una ricetta di addestramento che OpenBMB chiama Self-Replay Fine-Tuning, presentata come un modo a basso costo per estendere le capacità limitando al contempo la dimenticanza.

• Quantizzazione — GGUF, BNB, AWQ, GPTQ e FP8, con repository separati pubblicati per le varianti AWQ, GPTQ, int4, FP8 e GGUF del modello 35B.

• Hardware — supporto day-0 dichiarato per le piattaforme a chip Rockchip, Houmo, Intel, AMD e Arm, insieme al deployment su iOS, Android e HarmonyOS.

• Strumenti — un cookbook con guide pratiche per chat con immagine singola, chat multi-immagine, video, OCR, parsing di PDF e visual grounding, oltre a un repository di edge deployment che contiene le app per smartphone.

• Decodifica speculativa — checkpoint di draft DSpark separati per entrambi i target da 35B e 1B.

L'effetto pratico è che MiniCPM-V 4.7 è passato da "avresti dovuto scriverti il loader da solo" a "esiste un percorso documentato in almeno quattro stack di serving". Se stavi aspettando la scheda prima di dedicare tempo a una prova locale, l'attesa è finita; se stavi aspettando prove indipendenti che i numeri on-device siano reali, non è finita.

Cosa stabiliscono e cosa non stabiliscono i benchmark

La sezione di valutazione della scheda è onesta su ciò che essa è: dati dichiarati dal fornitore, non riprodotti in modo indipendente. Vengono formulate esplicitamente due affermazioni comparative, ed entrambe sono presentate come confronti anziché come punteggi assoluti. In modalità Instruct, si afferma che 35B-A3B raggiunge un punteggio complessivo più alto in meno tempo di inferenza rispetto a Qwen3.6 35B-A3B — un'affermazione sulle prestazioni in rapporto alla latenza, non sulla qualità pura. Si afferma che la variante 1B migliori le capacità principali di MiniCPM-V 4.6 e superi sostanzialmente Qwen3.5 0.8B sia nel punteggio complessivo sia nell'efficienza di inferenza.

Ecco la parte che vale la pena segnalare. I numeri effettivi non sono nel testo. La sezione di valutazione è composta da cinque immagini collegate — un grafico complessivo delle prestazioni per i compiti vision-language del modello 35B, un grafico linguistico, il grafico del modello 1B, un grafico della frontiera prestazioni-efficienza e una GIF di confronto della velocità su dispositivo — e il testo che le circonda veicola la narrazione, non le cifre. Non c'è alcuna tabella per benchmark nel README, quindi non c'è alcun punteggio leggibile da una macchina da citare e, di conseguenza, nulla che questo articolo possa citare come numero. «Punteggio complessivo superiore a Qwen3.6 35B-A3B» è quanto di più preciso la documentazione pubblica attualmente offra.

Ne derivano due conseguenze. Primo, MiniCPM-V 4.7 non ha alcuna voce nelle classifiche neutrali di terze parti a cui di norma ci rivolgeremmo per un confronto verificato — nessun indice di ragionamento, nessun indice agentico, nessun punteggio multimodale valutato in modo indipendente. Secondo, l'aggregato che OpenBMB sta rappresentando è il composito proprietario del fornitore su gruppi di benchmark da esso selezionati, il che significa che l'affermazione del "punteggio complessivo più alto" è significativa solo quanto la ponderazione che vi sta dietro, e anche tale ponderazione non è pubblicata. Nulla di tutto ciò rende sbagliati i numeri. Li rende non verificati, che è una cosa diversa, e la distinzione conta soprattutto proprio dove i numeri sono più forti.

Ciò che puoi verificare da te, oggi

Togli il marketing e c'è un nucleo solido e verificabile, tutto leggibile dal repository senza fidarsi di nessuno:

• Byte dei pesi — sedici shard safetensors sul modello 35B per un totale di 70.425.903.448 byte, coerenti con un checkpoint BF16 da 35,2B; il modello 1B è un singolo file da 3,1 GB.

• Architettura — ogni valore strutturale sopra è in config.json, pubblicato apertamente e corrisponde al testo della scheda.

• Licenza — Apache-2.0, dichiarata nel front matter della card e ora inequivocabile. Per uso commerciale, questa è la riga più importante in assoluto del rilascio, ed è nuova.

• Varianti quantizzate — esistono repository AWQ, GPTQ, int4, FP8 e GGUF, e sono scaricabili, quindi il discorso sul deployment non è teorico a livello di pesi.

• Segnali di adozione — al 13 ottobre il repository 35B conta circa 166 download e 38 like, un passo avanti rispetto ai valori quasi nulli che registrava quando era un caricamento inspiegato, ma resta comunque un numero esiguo per una release che si pretende all'avanguardia secondo il criterio di Pareto.

Quello che non puoi verificare è l'affermazione che accompagna il rilascio: che questo sia il primo MoE open source che gira su un telefono senza rinunciare a nulla, a più di 13 token al secondo. Questo è in attesa di una terza parte con un iPhone e un cronometro.

Dove un router è adatto, e dove no

MiniCPM-V 4.7 non è servito da OrcaRouter. È un checkpoint open-weights, il che significa che il modello stesso è qualcosa che ospiti tu — su una workstation, su una macchina con GPU o sul telefono a cui la scheda è rivolta. Il punto in cui un livello di routing si guadagna il suo posto è dall'altro lato di questo accordo: il momento in cui un modello vision self-hosted decide di essere fuori dalla sua portata e passa il frame difficile a qualcosa di più grande. OrcaRouter mette oltre 200 modelli ospitati dietro un'unica chiave, trasferisce il prezzo di listino di ogni provider con 0% di ricarico così una variazione di prezzo di un fornitore è attiva lo stesso giorno, e interviene automaticamente in caso di degrado di un provider — che è la forma di cui ha bisogno una configurazione ibrida, con il modello locale economico che svolge il lavoro di routine e un modello ospitato che assorbe i casi che non riesce a gestire.

Cosa guardare dopo

Tre cose trasformerebbero questa release da un'affermazione documentata in un fatto accertato. Una misurazione indipendente sul dispositivo del modello 35B — qualcuno con un iPhone 17 Pro Max, l'app pubblicata e i propri tempi — fisserebbe il numero su cui si basa l'intero pitch. Una tabella per benchmark con i punteggi effettivi, anziché grafici, consentirebbe di verificare l'affermazione sul Pareto rispetto alla baseline che nomina. E un'esecuzione su una classifica neutrale metterebbe MiniCPM-V 4.7 accanto a modelli valutati in condizioni che non ha scelto. Fino ad allora, il riassunto onesto è che OpenBMB ha rilasciato un modello reale, Apache-2.0 e ben documentato, con una storia di efficienza credibile e non dimostrata, e che la differenza tra queste due cose è esattamente la differenza tra una model card e un benchmark.