MiniCPM-V 4.7 vs Moondream 3.1 9B A2B: En vecka innan en av dem förlorar sitt API

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

Vad varje modell egentligen är till för

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 är den motsatta satsningen. Den tar enskilda bilder, flera bilder och video, rymmer en kvarts miljon tokens i kontext och svarar på språk. OpenBMB:s publicerade siffror är förståelsesiffror: 80,2 på MMMU, 91,2 på OCRBench, 75,6 på CharXiv-resonemang, 68,9 på LongVideoBench, 86,5 på MathVerse. Det finns ingen primitiv för punkt, detektion eller segmentering i modellkortet. Om du vill ha en ruta runt katten ber du om det i ord och tolkar orden.

• Kontext – 32 768 tokens på Moondream 3.1 9B A2B mot 262 144 på MiniCPM-V 4.7 35B-A3B.

• Indata – en bild per anrop för Moondream, mot enkelbild, flerbild och video för MiniCPM.

• Utdataform — strukturerade resultat för query, caption, point, detect och segment för Moondream, mot fritext för MiniCPM.

• Licens — Moondream Model License 1.0 tillåter kommersiell användning, självhosting och finjustering, och begränsar möjligheten att erbjuda allmän Moondream-inferens som en hostad tjänst; MiniCPM-V 4.7 är Apache-2.0 utan en sådan klausul.

• Vikter på disk – en 9B gles checkpoint för Moondream, jämfört med cirka 70 GB BF16-vikter över 16 shards för MiniCPM-V 4.7 35B-A3B, eller 3,1 GB för 1B-syskonet.

13 november-stupet, och vad som faktiskt förändras

Förvärvet tillkännagavs av Prime Intellect den 13 oktober 2026 och av Moondream en dag senare. De öppna vikterna förblir öppna under samma licens, självhosting via Photon förblir gratis, och Moondream fortsätter som ett varumärke för små multimodala modeller inom Prime. Det som stängs är det hanterade molnet: både inferens och Lens-fintrimning upphör den 13 november, med outnyttjade krediter återbetalda och kunder hänvisade till förvärvarens plattform.

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 har aldrig haft det där hanterade lagret. Den enda förstaparts-serveringsvägen är OpenBMB:s egen ModelBest API, som esp32-eye-kattmonitorns bygge använder för sina 35B-identitetskontroller, och resten är vLLM, SGLang, llama.cpp eller Ollama på hårdvara du tillhandahåller. Det är mer arbete i början och mindre exponering mot någon annans företagskalender. Med tanke på de senaste trettio dagarna är den andra egenskapen värd något.

Benchmarkar som aldrig uppfylls

There is no shared benchmark between these two models, and the two tables measure different competences. Moondream's numbers are its own, measured with its own Photon engine on a single H100 at batch 16, and the tasks are detection and counting: 81.46 on COCO, 93.94 on ODinW-13, 74.61 on Dense200, 90.35 on CountBench, 88.68 on PixMo-Count, 87.1 on RefCOCO-M. Its document numbers — 88.6 DocVQA, 86.01 ChartQA — are respectable and well below its detection scores. Its maths is simply absent: the release notes report no GSM8K or other arithmetic benchmark at all, so there is no maths number to compare and no evidence either way.

MiniCPMs siffror är OpenBMB:s, publicerade som punktlistor i löptext och diagrambilder på leverantörens modellsida, utan någon numerisk tabell och utan oberoende reproduktion. Dess styrka är det omvända mot Moondreams: 91,2 OCRBench, 75,6 CharXiv-resonemang, 68,9 LongVideoBench, 80,2 MMMU. Den publicerar ingen detektions-F1, ingen räknepoäng och inget matting- eller segmenteringsresultat, eftersom den inte gör dessa saker nativt.

Den enda platsen där de kan jämföras är OCR, och även där skiljer sig testuppläggen åt. Moondream rapporterar 88,6 på DocVQA, ett poäng för dokumentfrågor och svar; MiniCPM rapporterar 91,2 på OCRBench, ett poäng för textigenkänning. Det är inte samma test och bör inte subtraheras. Den som sätter dem i en och samma kolumn producerar ett tal som inte betyder något.

Där var och en brister

Moondreams dokumenterade gränser är specifika och användbara: text mindre än ungefär tio pixlar, objekt mindre än ungefär tolv pixlar, fler än femtio instanser i en bildruta och ingen inbyggd video. Det är gränserna för en perceptionsprimitiv, och de är ärliga. Om dina bilder är produktfoton, hyllbilder, flygbilder eller trånga scener beskriver de dina fellägen innan du når dem.

MiniCPM-V 4.7:s gränser är mindre tydligt dokumenterade, vilket i sig är ett fynd. Modellkortet hävdar inferens på enheten med 13 eller fler tokens per sekund på en iPhone 17 Pro Max med cirka 3 GB minne, en siffra som beror på att Lookahead Expert Scheduling, lagervis kvantisering och DSpark spekulativ avkodning alla fungerar tillsammans, och som ingen tredje part har reproducerat. esp32-eye-bygget, den mest detaljerade offentliga driftsättningen, fann att 1B-syskonmodellen var opålitlig när det gällde att skilja fyra liknande katter åt och flyttade identiteten till 35B. Det är ett användbart negativt resultat: den lilla varianten är en närvarodetektor, inte en finkornig igenkännare.

Det finns också en hårdvaruasymmetri. Moondream 3.1 är en 9B sparsmodell som körs bekvämt på en enda modern GPU via Photon, och dess motor är anledningen till att leverantören kan ange 34 förfrågningar per sekund vid batchstorlek 16. MiniCPM-V 4.7 35B-A3B vill ha antingen mycket VRAM eller den strömmande expertmekanism som OpenBMB byggde för telefoner, och 1B-syskonet kräver nästan ingenting. Att välja mellan dem utifrån hårdvara är egentligen att välja mellan en medelstor modell och en familj med två storlekar.

Om du implementerar den här veckan

Beslutsträdet är kort. Om din uppgift är "hitta, räkna eller skissera objekt och returnera koordinater" är Moondream 3.1 9B A2B det mer direkta verktyget, och datumet 13 november ändrar bara var du kör det: självhostat via Photon, under en licens som förbjuder återförsäljning av allmän Moondream-inferens. Om din uppgift är "läs det här dokumentet, den här instrumentpanelen eller den här videon och berätta vad den säger" är MiniCPM-V 4.7 35B-A3B det bättre valet, och det var alltid ett beslut om självhosting.

Om du vill undvika båda åtagandena är den pragmatiska vägen en hostad allmänmodell för läsarbetet medan du utvärderar de öppna vikterna på dina egna data. Det är där en router förtjänar sin plats: OrcaRouter exponerar mer än 200 modeller bakom en enda nyckel till 0 % påslag på leverantörernas listpriser, med automatisk failover, så att en pipeline inte är beroende av att en enskild uppströmsleverantör finns kvar. Varken Moondream 3.1 9B A2B eller MiniCPM-V 4.7 finns i den katalogen i dag, så detta är råd om den omgivande arkitekturen, inte ett påstående att vi tillhandahåller någon av modellerna.

Det som den senaste månaden har visat är att modelltillgänglighet nu är en leveranskedjefråga. En modell kan vara utmärkt, öppenviktad och väl dokumenterad och ändå förlora sin hanterade endpoint med trettio dagars varsel eftersom företaget som byggde den blev uppköpt. De team som hanterade det väl var de vars kod hade en bas-URL i en konfigurationsfil och ett andra alternativ bakom den.

Den rättvisa sammanfattningen är att dessa inte är substitut. Moondream 3.1 9B A2B är en perceptionskomponent med en klocka som tickar på sin hostade form; MiniCPM-V 4.7 är en läsmodel med två storlekar och ingen hostad form att förlora. Välj uppgiften först, välj sedan modellen och kontrollera sedan om det du valde fortfarande kommer att svara nästa fredag.