MiniCPM-V 4.7 vs Moondream 3.1 9B A2B: una settimana prima che uno dei due perda la sua API

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

A cosa serve realmente ogni modello

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 è la scommessa opposta. Accetta singole immagini, più immagini e video, gestisce un contesto di un quarto di milione di token e risponde in linguaggio naturale. I numeri pubblicati da OpenBMB sono numeri di comprensione: 80,2 su MMMU, 91,2 su OCRBench, 75,6 su CharXiv reasoning, 68,9 su LongVideoBench, 86,5 su MathVerse. Non c'è alcuna primitiva point, detect o segment nella model card. Se vuoi un riquadro attorno al gatto, lo chiedi a parole e analizzi le parole.

• Contesto — 32.768 token su Moondream 3.1 9B A2B contro 262.144 su MiniCPM-V 4.7 35B-A3B.

• Input — un'immagine per chiamata per Moondream, rispetto a immagine singola, immagini multiple e video per MiniCPM.

• Forma dell'output — query strutturata, didascalia, punto, risultati di rilevamento e segmentazione per Moondream, rispetto al testo libero per MiniCPM.

• Licenza — la Moondream Model License 1.0 consente l'uso commerciale, il self-hosting e il fine-tuning, e vieta di offrire l'inferenza Moondream general-purpose come servizio hosted; MiniCPM-V 4.7 è Apache-2.0 e non prevede tale clausola.

• Pesi su disco — un checkpoint sparso 9B per Moondream, rispetto a circa 70 GB di pesi BF16 distribuiti su 16 shard per MiniCPM-V 4.7 35B-A3B, oppure 3,1 GB per la versione gemella 1B.

Il precipizio del 13 novembre, e cosa cambia davvero

L'acquisizione è stata annunciata da Prime Intellect il 13 ottobre 2026 e da Moondream il giorno successivo. I pesi aperti restano aperti con la stessa licenza, l'auto-hosting tramite Photon resta gratuito e Moondream continua come marchio per piccoli modelli multimodali all'interno di Prime. Ciò che chiude è il cloud gestito: l'inferenza e il fine-tuning di Lens terminano entrambi il 13 novembre, con i crediti non utilizzati rimborsati e i clienti indirizzati alla piattaforma dell'acquirente.

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 non ha mai avuto quel layer gestito. L'unico percorso di serving first-party è l'API ModelBest di OpenBMB stessa, quella che la build esp32-eye cat-monitor usa per le sue verifiche d'identità sul 35B, e il resto è vLLM, SGLang, llama.cpp o Ollama su hardware fornito da voi. È più lavoro all'inizio e meno esposizione al calendario aziendale di qualcun altro. Visti gli ultimi trenta giorni, la seconda proprietà vale qualcosa.

Benchmark che non si incontrano mai

Non esiste un benchmark condiviso tra questi due modelli, e le due tabelle misurano competenze diverse. I numeri di Moondream sono i suoi, misurati con il suo motore Photon su una singola H100 con batch 16, e i task sono rilevamento e conteggio: 81,46 su COCO, 93,94 su ODinW-13, 74,61 su Dense200, 90,35 su CountBench, 88,68 su PixMo-Count, 87,1 su RefCOCO-M. I suoi numeri sui documenti — 88,6 su DocVQA, 86,01 su ChartQA — sono rispettabili e ben al di sotto dei suoi punteggi di rilevamento. La sua matematica è semplicemente assente: le note di rilascio non riportano alcun GSM8K né altri benchmark aritmetici, quindi non c'è alcun numero sulla matematica da confrontare e nessuna evidenza in un senso o nell'altro.

I numeri di MiniCPM sono quelli di OpenBMB, pubblicati come elenchi puntati in prosa e immagini di grafici sulla pagina del modello del fornitore, senza alcuna tabella numerica e senza riproduzione indipendente. Il suo punto di forza è l'inverso di quello di Moondream: 91,2 su OCRBench, 75,6 sul ragionamento CharXiv, 68,9 su LongVideoBench, 80,2 su MMMU. Non pubblica alcun F1 di rilevamento, alcun punteggio di conteggio e alcun risultato di matting o segmentazione, perché non svolge nativamente queste attività.

L'unico ambito in cui possono essere confrontati è l'OCR, e anche lì gli harness differiscono. Moondream riporta 88,6 su DocVQA, un punteggio di question-answering su documenti; MiniCPM riporta 91,2 su OCRBench, un punteggio di riconoscimento del testo. Non sono lo stesso test e non dovrebbero essere sottratti. Chiunque li metta in un'unica colonna produce un numero che non significa nulla.

Dove ognuno si rompe

I limiti documentati di Moondream sono specifici e utili: testo più piccolo di circa dieci pixel, oggetti più piccoli di circa dodici pixel, più di cinquanta istanze in un fotogramma e nessun supporto video nativo. Questi sono i confini di una primitiva di percezione, e sono onesti. Se le tue immagini sono foto di prodotti, riprese di scaffali, fotogrammi aerei o scene affollate, descrivono le modalità di errore prima che tu ci arrivi.

I limiti di MiniCPM-V 4.7 sono documentati in modo meno nitido, il che è di per sé un risultato. La model card dichiara inferenza on-device a 13 o più token al secondo su iPhone 17 Pro Max usando circa 3 GB di memoria, un dato che dipende dal funzionamento congiunto di Lookahead Expert Scheduling, quantizzazione layer-wise e decodifica speculativa DSpark, e che nessuna terza parte ha riprodotto. La build esp32-eye, la distribuzione pubblica più dettagliata, ha rilevato che il fratello 1B non era affidabile nel distinguere quattro gatti simili e ha spostato l'identità sul 35B. È un utile risultato negativo: la variante piccola è un rilevatore di presenza, non un riconoscitore fine-grained.

C'è anche un'asimmetria hardware. Moondream 3.1 è un modello sparso da 9B che gira agevolmente su una singola GPU moderna tramite Photon, e il suo engine è il motivo per cui il fornitore può dichiarare 34 richieste al secondo con batch 16. MiniCPM-V 4.7 35B-A3B richiede molta VRAM oppure il meccanismo per esperti in streaming che OpenBMB ha realizzato per i telefoni, mentre il fratello da 1B non richiede quasi nulla. Scegliere tra loro in base all'hardware significa in realtà scegliere tra un modello di taglia media e una famiglia di due taglie.

Se stai implementando questa settimana

L'albero decisionale è breve. Se il tuo compito è «trovare, contare o delineare oggetti e restituire coordinate», Moondream 3.1 9B A2B è lo strumento più diretto, e la data del 13 novembre cambia solo dove lo esegui: in self-hosting tramite Photon, con una licenza che vieta la rivendita dell'inferenza Moondream per scopi generali. Se il tuo compito è «leggere questo documento, questa dashboard o questo video e dirmi cosa dice», MiniCPM-V 4.7 35B-A3B è la soluzione più adatta, ed è sempre stata una decisione di self-hosting.

Se non vuoi nessuno dei due impegni, la via pragmatica è un modello general-purpose ospitato per il lavoro di lettura, mentre valuti i pesi aperti sui tuoi dati. È qui che un router si guadagna il suo posto: OrcaRouter espone più di 200 modelli dietro un'unica chiave a 0% di ricarico sui prezzi di listino dei provider, con failover automatico, così una pipeline non è legata alla continua esistenza di un singolo upstream. Né Moondream 3.1 9B A2B né MiniCPM-V 4.7 sono oggi in quel catalogo, quindi questo è un consiglio sull'architettura circostante, non un'affermazione che serviamo l'uno o l'altro modello.

Quello che l’ultimo mese ha dimostrato è che la disponibilità dei modelli è ormai una questione di supply chain. Un modello può essere eccellente, open-weight e ben documentato, e comunque perdere il proprio endpoint gestito con un preavviso di trenta giorni perché l’azienda che lo ha creato è stata acquisita. I team che l’hanno gestita bene sono stati quelli il cui codice aveva un base URL in un file di configurazione e una seconda opzione dietro.

In sintesi, con onestà: non sono sostituti. Moondream 3.1 9B A2B è un componente di percezione con un conto alla rovescia già avviato sulla sua versione ospitata; MiniCPM-V 4.7 è un modello di lettura con due dimensioni e nessuna versione ospitata da perdere. Scegli prima il compito, poi scegli il modello, poi verifica se ciò che hai scelto risponderà ancora venerdì prossimo.