MiniCPM-V 4.7 vs. Moondream 3.1 9B A2B: Eine Woche, bevor eines von ihnen seine API verliert

On 13 November 2026, Moondream Cloud shuts down. That is thirty days after Moondream announced it was joining Prime Intellect, and it is the single most decision-relevant fact in any comparison between Moondream 3.1 9B A2B and MiniCPM-V 4.7 today. One of these models is a hosted service that is about to stop being hosted. The other was never a hosted service to begin with: OpenBMB published MiniCPM-V 4.7 as open weights on 6 and 7 October 2026, added the model card and an Apache-2.0 licence on 12 October, and left serving to you.

That asymmetry inverts the usual comparison. On a spec sheet, Moondream 3.1 9B A2B is a 9-billion-parameter sparse model with about 2 billion active, built around structured perception primitives, and MiniCPM-V 4.7 35B-A3B is a 35.2-billion-parameter mixture of experts with roughly 3 billion active, built around reading images, documents and video in a 262,144-token context. On a procurement sheet, one has a published per-token price for another seven days and the other has no price at all. Both facts are true at once, and which one you weight depends on whether you are prototyping or operating.

Wofür jedes Modell eigentlich gedacht ist

Moondream 3.1 9B A2B shipped on 7 July 2026. According to the vendor's own model page it is a sparse mixture of experts — eight experts with top-2 routing plus one shared expert, 9.0B total and 2.0B active per token — with a 32,768-token context and a deliberate restriction: one image per call, text out, no native video and no multi-image reasoning. What it does instead of prose is answer in structure. Its native skills are query, caption, point, detect and segment, and the point and detect outputs are coordinates, which is why the benchmark table is full of detection F1 rather than caption scores.

MiniCPM-V 4.7 ist die entgegengesetzte Wette. Es nimmt einzelne Bilder, mehrere Bilder und Videos auf, hält eine Viertelmillion Tokens Kontext und antwortet in Sprache. Die von OpenBMB veröffentlichten Zahlen sind Verständniszahlen: 80,2 bei MMMU, 91,2 bei OCRBench, 75,6 beim CharXiv-Reasoning, 68,9 bei LongVideoBench, 86,5 bei MathVerse. Es gibt keine Point-, Detect- oder Segment-Primitive in der Modellkarte. Wenn Sie eine Box um die Katze wollen, fragen Sie in Worten danach und parsen Sie die Worte.

• Kontext — 32.768 Token bei Moondream 3.1 9B A2B gegenüber 262.144 bei MiniCPM-V 4.7 35B-A3B.

• Eingaben — ein Bild pro Aufruf bei Moondream, im Gegensatz zu Einzelbild-, Mehrbild- und Videoeingaben bei MiniCPM.

Ausgabeformat – strukturierte Query-, Caption-, Point-, Detect- und Segment-Ergebnisse für Moondream, gegenüber Freitext für MiniCPM.

• Lizenz — die Moondream Model License 1.0 erlaubt kommerzielle Nutzung, Self-Hosting und Fine-Tuning und schränkt das Anbieten von allgemeiner Moondream-Inferenz als gehosteten Dienst ein; MiniCPM-V 4.7 steht unter Apache-2.0 ohne eine solche Klausel.

• Gewichte auf der Festplatte — ein 9B-Sparse-Checkpoint für Moondream, gegenüber etwa 70 GB BF16-Gewichten über 16 Shards hinweg für MiniCPM-V 4.7 35B-A3B oder 3,1 GB für das 1B-Geschwistermodell.

Die Klippe am 13. November – und was sich tatsächlich ändert

Die Übernahme wurde am 13. Oktober 2026 von Prime Intellect und einen Tag später von Moondream bekannt gegeben. Die offenen Gewichte bleiben unter derselben Lizenz offen, Self-Hosting über Photon bleibt kostenlos, und Moondream besteht als Marke für kleine multimodale Modelle innerhalb von Prime fort. Was endet, ist die Managed Cloud: Inferenz und Lens-Fine-Tuning enden beide am 13. November, wobei nicht genutzte Guthaben erstattet werden und Kunden auf die Plattform des Erwerbers verwiesen werden.

For a team that built against the hosted endpoint, that is a migration with a date on it. The weights do not disappear, but the operational shape does: no per-token bill, no managed scaling, no vendor-side latency guarantee. The published cloud price list puts Moondream 3.1 9B A2B at 0.30 dollars per million input tokens and 1.00 dollar per million output tokens on the real-time tier, half that in batch, which was cheap enough that self-hosting rarely pencilled out for low volume. After 13 November the comparison is not price against price; it is a GPU you own against a model you call.

MiniCPM-V 4.7 hatte diese verwaltete Ebene nie. Der einzige Serving-Pfad aus erster Hand ist OpenBMBs eigene ModelBest-API, die der esp32-eye cat-monitor-Build für seine 35B-Identitätsprüfungen nutzt; der Rest ist vLLM, SGLang, llama.cpp oder Ollama auf Hardware, die Sie bereitstellen. Das bedeutet mehr Aufwand im Vorfeld und weniger Ausgesetztsein gegenüber dem Unternehmenskalender anderer. Angesichts der letzten dreißig Tage ist die zweite Eigenschaft etwas wert.

Benchmarks, die nie erfüllt werden

Es gibt keinen gemeinsamen Benchmark zwischen diesen beiden Modellen, und die beiden Tabellen messen unterschiedliche Kompetenzen. Moondreams Zahlen sind eigene, gemessen mit seiner eigenen Photon-Engine auf einer einzelnen H100 bei Batch 16, und die Aufgaben sind Detektion und Zählen: 81,46 auf COCO, 93,94 auf ODinW-13, 74,61 auf Dense200, 90,35 auf CountBench, 88,68 auf PixMo-Count, 87,1 auf RefCOCO-M. Seine Dokumentzahlen — 88,6 DocVQA, 86,01 ChartQA — sind respektabel und deutlich unter seinen Detektionswerten. Seine Mathematik fehlt schlicht: Die Release Notes berichten überhaupt keinen GSM8K- oder anderen Arithmetik-Benchmark, daher gibt es keine Mathematikzahl zum Vergleichen und keine Belege in die eine oder andere Richtung.

MiniCPMs Zahlen sind die von OpenBMB, veröffentlicht als Prosabulletpoints und Diagrammabbildungen auf der Modellseite des Anbieters, ohne numerische Tabelle und ohne unabhängige Reproduktion. Seine Stärke ist das Gegenteil von Moondreams: 91,2 OCRBench, 75,6 CharXiv-Reasoning, 68,9 LongVideoBench, 80,2 MMMU. Es veröffentlicht keinen Detection-F1-Wert, keinen Counting-Score und kein Matting- oder Segmentierungsergebnis, weil es diese Dinge nicht nativ beherrscht.

Der einzige Ort, an dem sie verglichen werden können, ist OCR, und selbst dort unterscheiden sich die Testumgebungen. Moondream meldet 88,6 auf DocVQA, einem Score für Dokumentenfragen-Beantwortung; MiniCPM meldet 91,2 auf OCRBench, einem Score für Texterkennung. Das sind nicht dieselben Tests und sollten nicht voneinander abgezogen werden. Wer sie in eine Spalte stellt, erzeugt eine Zahl, die nichts bedeutet.

Wo jedes einzelne bricht

Die dokumentierten Grenzen von Moondream sind konkret und nützlich: Text, der kleiner als etwa zehn Pixel ist, Objekte, die kleiner als etwa zwölf Pixel sind, mehr als fünfzig Instanzen in einem Frame und kein natives Video. Das sind die Grenzen eines Wahrnehmungsprimitivs, und sie sind ehrlich. Wenn es sich bei Ihren Bildern um Produktfotos, Regalaufnahmen, Luftaufnahmen oder überfüllte Szenen handelt, beschreiben sie Ihre Fehlermodi, bevor Sie auf diese stoßen.

Die Grenzen von MiniCPM-V 4.7 sind weniger klar dokumentiert, was selbst ein Befund ist. Die Modellkarte behauptet On-Device-Inferenz mit 13 oder mehr Tokens pro Sekunde auf einem iPhone 17 Pro Max bei etwa 3 GB Speicher – eine Zahl, die davon abhängt, dass Lookahead Expert Scheduling, layerweise Quantisierung und DSpark-Spekulativdekodierung zusammenwirken, und die kein Dritter reproduziert hat. Der esp32-eye-Build, die detaillierteste öffentliche Bereitstellung, befand das 1B-Geschwistermodell als unzuverlässig beim Unterscheiden von vier ähnlichen Katzen und verlagerte die Identitätserkennung auf das 35B-Modell. Das ist ein nützliches negatives Ergebnis: Die kleine Variante ist ein Anwesenheitsdetektor, kein feingranularer Erkenner.

Hinzu kommt eine Hardware-Asymmetrie. Moondream 3.1 ist ein 9B-Sparse-Modell, das über Photon bequem auf einer einzelnen modernen GPU läuft, und seine Engine ist der Grund, warum der Anbieter 34 Anfragen pro Sekunde bei Batch 16 angeben kann. MiniCPM-V 4.7 35B-A3B braucht entweder viel VRAM oder die Streaming-Expert-Maschinerie, die OpenBMB für Smartphones entwickelt hat, und das 1B-Geschwistermodell braucht so gut wie nichts. Die Wahl zwischen ihnen anhand der Hardware ist wirklich die Wahl zwischen einem mittelgroßen Modell und einer Familie mit zwei Größen.

Wenn Sie diese Woche implementieren

Der Entscheidungsbaum ist kurz. Wenn Ihre Aufgabe darin besteht, „Objekte zu finden, zu zählen oder zu umreißen und Koordinaten zurückzugeben“, ist Moondream 3.1 9B A2B das direktere Werkzeug, und das Datum 13. November ändert nur, wo Sie es ausführen: selbst gehostet über Photon, unter einer Lizenz, die den Weiterverkauf von allgemeiner Moondream-Inferenz verbietet. Wenn Ihre Aufgabe darin besteht, „dieses Dokument, dieses Dashboard oder dieses Video zu lesen und mir zu sagen, was darin steht“, ist MiniCPM-V 4.7 35B-A3B die bessere Wahl, und es war schon immer eine Entscheidung fürs Selbsthosting.

Wenn Sie sich weder auf das eine noch auf das andere festlegen wollen, ist der pragmatische Weg ein gehostetes Allzweckmodell für die Leseaufgabe, während Sie die offenen Gewichte an Ihren eigenen Daten evaluieren. Hier kommt ein Router ins Spiel: OrcaRouter bietet mehr als 200 Modelle über einen einzigen Schlüssel zu 0 % Aufschlag auf die Listenpreise der Anbieter, mit automatischem Failover, sodass eine Pipeline nicht vom Fortbestand eines einzelnen Upstreams abhängt. Weder Moondream 3.1 9B A2B noch MiniCPM-V 4.7 ist heute in diesem Katalog, daher ist dies ein Rat zur umgebenden Architektur, nicht die Behauptung, dass wir eines der beiden Modelle anbieten.

Was der letzte Monat gezeigt hat, ist, dass Modellverfügbarkeit inzwischen eine Frage der Lieferkette ist. Ein Modell kann exzellent, Open-Weight und gut dokumentiert sein und trotzdem seinen verwalteten Endpoint mit einer Frist von dreißig Tagen verlieren, weil das Unternehmen, das es entwickelt hat, übernommen wurde. Die Teams, die das gut bewältigt haben, waren diejenigen, deren Code eine Base-URL in einer Konfigurationsdatei und eine zweite Option dahinter hatte.

Die faire Zusammenfassung ist, dass dies keine Substitute sind. Moondream 3.1 9B A2B ist eine Wahrnehmungskomponente, deren Uhr in seiner gehosteten Form läuft; MiniCPM-V 4.7 ist ein Lesemodell mit zwei Größen und ohne gehostete Form, die verloren gehen könnte. Wähle zuerst die Aufgabe, dann das Modell und prüfe dann, ob das gewählte Ding nächsten Freitag noch antwortet.