Moondream 3.1 9B A2B vs. North Micro Vision Instruct: Welcher Anbieter es Ihnen tatsächlich ermöglicht, die Nummer zu überprüfen?

Zwei offene Vision-Modelle, vier Monate auseinander, mit fast nichts gemeinsam in der Frage, wie sie beurteilt werden möchten. M​oondream 3.1 9B A2B wurde am 7. Juli 2026 mit einer Benchmark-Tabelle, einer Methodik-Fußzeile, die einen einzelnen H100 SXM5 und eine Batch-Größe von 16 nennt, und einem Argument veröffentlicht, das sich durch denselben Beitrag zieht und besagt, dass Benchmarks nicht messen, was seine Kunden tatsächlich brauchen. North Micro Vision Instruct kam am 12. August 2026 von C​ohere Labs mit 2,4B Parametern unter Apache 2.0 heraus, und sein Release-Beitrag widmet seine gesamte Länge dem Trainingscurriculum und seinem Evaluations-Setup — dem verwendeten Harness und den exakten Sampling-Parametern, mit denen die Zahlen erzeugt wurden.

Das ist ein echter Unterschied der Art, und für einen Käufer ist er nützlicher als die Parameteranzahl jedes einzelnen der beiden Modelle. Ein Anbieter sagt Ihnen, wie Sie seine Tabelle reproduzieren können. Der andere sagt Ihnen, Sie sollen Tabellen nicht trauen, und druckt dann eine. Soweit wir das herausfinden konnten, wurde keines von beiden unabhängig evaluiert, die Frage, die wirklich entscheidet, auf welchen Satz von Zahlen man sich stützen sollte, ist also, wie viel jeder der beiden Anbieter Ihnen zum Überprüfen an die Hand gegeben hat.

Was jedes einzelne ist

M​oondream 3.1 9B A2B ist ein sparse Mixture-of-Experts Vision-Language-Modell: 9B Gesamtparameter, 2B pro Token aktiv, 64 Experten mit 8 aktiven, ein SigLIP Vision-Encoder mit Multi-Crop-Kanalverkettung, ein 32K-Token-Kontext und ein SuperBPE-Tokenizer. Seine vier Fähigkeiten — Abfrage, Erkennung, Zeigen und Beschriftung — werden antrainiert statt gepromptet, und die Detektions- und Pointing-Pfade liefern strukturierte Geometrie statt Beschreibung. Es läuft auf Photon, der Inferenz-Engine des Anbieters, und zielt auf N​VIDIA-GPUs ab Ampere sowie Apple Silicon ab.

North Micro Vision Instruct ist ein dichtes 2,4B-Modell, das aus drei Teilen besteht: einem nativen Auflösungs-Vision-Encoder mit 400M Parametern, der aus Googles SigLIP 2 SO400M-Checkpoint weiter vortrainiert wurde, einem Projektor, der dem DeepStack-Muster folgt und Patch-Einbettungen aus mehreren Encoder-Schichten in frühe Sprachmodell-Schichten einspeist, und einem 2B-Sprachmodell namens North Micro LLM, das Coheres Command A+-Architektur folgt. Es nimmt verschachtelten Text und Bilder – eines oder mehrere – entgegen und gibt Text aus. Der Tokenizer-Wortschatz umfasst 262.144, und die aufgeführten Sprachen belaufen sich auf elf plus „und mehr“.

Der Unterschied der Ausgabetypen sollte klar benannt werden, denn er bestimmt, was folgt: M​oondream ist ein Wahrnehmungsmodell, das mit Boxen und Koordinaten antwortet, North Micro Vision ist ein Verständnismodell, das mit Sprache antwortet. Alles, was einer der beiden Anbieter veröffentlicht, ist eine Messung einer dieser beiden Aufgaben, und sie sind nicht dieselbe Aufgabe.

Die 8K-Zahl, die nicht das Kontextfenster des Modells ist

Beginne mit der Falle, denn sie sitzt mitten in der Modellkarte von North Micro Vision und ist die Art von Sache, die versehentlich in einer Architekturentscheidung landet.

• North Micro Vision Instruct — Kontextfenster des Sprach-Backbones: 128.000 Token; validierter multimodaler Betriebsbereich bis zu 8.000 Token. Die Karte stellt unumwunden fest, dass längere multimodale Kontexte auf Extrapolation angewiesen sein können und nicht gebenchmarkt wurden.

• Moondream 3.1 9B A2B — 32.000 Token, eine einzige Zahl, keine veröffentlichte Modalitäts-Ausnahme.

Die Kennzahl aus der Überschrift fällt um den Faktor vier zugunsten von North Micro Vision aus, und die Kennzahl, die tatsächlich für Ihre Bild-Workload gilt, fällt um den Faktor vier zugunsten von M​oondream aus. Wenn Sie abschätzen, wie viele Seiten eines gescannten Dokuments in einen einzelnen Aufruf passen, ist 128K die falsche Zahl und 8K die richtige, und 8K verschachtelte Bild- und Text-Tokens sind nicht viele Seiten, sobald ein Encoder mit nativer Auflösung beginnt, Tokens proportional zur Pixelfläche auszugeben. Der Anbieter verdient Anerkennung dafür, dass er den Vorbehalt veröffentlicht — die meisten Datenblätter würden das nicht tun —, aber der Vorbehalt ist unter einer Tabelle mit Spezifikationen begraben, und kopiert wird die Tabelle.

Wie die beiden Anbieter berichten, Seite an Seite

Dies ist der Teil des Vergleichs, der nichts mit den Modellen zu tun hat und alles mit der Frage, welches man auditieren kann.

Der M​oondream-3.1-Beitrag gibt seine Baselines an (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), seine Metrik (F1@0.5 für Detektion), seine Hardware (eine H100 SXM5), seine Batch-Größe (16) und die Tatsache, dass jedes Modell von seiner eigenen Engine bedient wurde – vLLM für LocateAnything, Qwen3.5 und Gemma 4; Photon für M​oondream; Hugging Face Transformers für SAM 3. Er sagt außerdem, dass für jedes Modell die höchsten Genauigkeits- und Reasoning-Einstellungen gewählt wurden und dass LocateAnything in einem langsamen Modus lief, um die Genauigkeit zu maximieren. Die veröffentlichten Ergebnisse sind 81,46 F1@0.5 auf COCO val, 93,94 auf ODinW-13, 67,4 auf LVIS, 74,61 auf Dense200, 52,77 auf SKU-110K, 74,5 auf CrowdHuman, 87,1 auf RefCOCO-M, 70,39 auf HumanRef, 59,63 auf DOTA-v2, 90,35 auf CountBench, 74,86 auf TallyQA, 88,68 auf PixMo-Count, 86,01 auf ChartQA und 88,6 auf DocVQA, mit State-of-the-Art-Ansprüchen bei fünf der Benchmark-Familien.

Was in dieser Fußzeile fehlt, ist das, was ein Ergebnis reproduzierbar macht: die Prompts. Die Erkennung ist eine Open-Vocabulary-Aufgabe, und die Formulierung, mit der man nach einer Sache fragt, verändert, was zurückkommt. Wer einen Lauf wiederholt, hat die Metrik, die Hardware und die Batch-Größe und kann die Zahl trotzdem nicht reproduzieren, ohne zu wissen, welcher Text jede Box erzeugt hat.

Der Beitrag von Cohere Labs verfolgt den anderen Ansatz. Er nennt das Harness (VLMEvalKit), gibt an, dass das Modell mit einer internen vLLM-Implementierung evaluiert wurde, listet die Benchmark-Zusammensetzung für jede Fähigkeitsgruppe auf – General VQA ist ein Durchschnitt über MMBench, MMStar, RealWorldQA und GQA; die Gruppe für Diagramme, Dokumente und OCR umfasst ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 und AI2D; Grounding und Counting sind RefCOCO-Durchschnitt und CountBench – und veröffentlicht die Sampling-Parameter, unter denen die Zahlen erzeugt wurden: Temperatur 0,7, top_p 0,8, top_k 20, min_p 0,0, presence_penalty 1,5, repetition_penalty 1,0. Außerdem weist er darauf hin, dass die öffentliche vLLM-Unterstützung „bald verfügbar“ ist, was die ehrliche Offenlegung ist, die für alle, die eine Reproduktion planen, am wichtigsten ist: Das Modell wurde auf einem Fork getestet.

Was dieser Beitrag nicht veröffentlicht, ist eine Tabelle pro Benchmark. Seine Ergebnisse sind Durchschnittswerte über Fähigkeitsgruppen und eine relative Aussage – im Instruct-Modus erzielt 35B-A3B bei kürzerer Inferenzzeit einen höheren Wert als Qwen3.6 35B-A3B, und die 1B-Variante übertrifft Qwen3.5 0.8B sowohl bei der Punktzahl als auch bei der Effizienz –, was weniger unmittelbar zitierfähig und robuster gegen Cherry-Picking ist. Keines der beiden Dokumente erlaubt es, die Zahl des anderen Anbieters nachzurechnen. Beide lassen erkennen, wie viel sie verbergen.

Wo sich der Architekturunterschied in der Praxis zeigt

Die native Auflösung ist die eine Designentscheidung bei North Micro Vision, die die tägliche Arbeit verändert, und es lohnt sich, sie zu verstehen, bevor man sich die Benchmark-Tabellen ansieht. Die meisten Vision-Encoder skalieren alles, was man ihnen gibt, auf ein festes Quadrat, weshalb ein breiter Tabellenkalkulations-Screenshot mit gestauchten Spalten beim Sprachmodell ankommt. Der Encoder von North Micro Vision ist darauf trainiert, das Bild in seiner eigenen Auflösung und seinem eigenen Seitenverhältnis aufzunehmen, wodurch feine Details von Dokumenten, Tabellen, Diagrammen und Formularen erhalten bleiben. Das veröffentlichte Trainingscurriculum reichte von einer festen 384×384-Stufe mit 10 Millionen Beispielen bis zu einer 1024×1024-Stufe mit 13 Millionen und darüber hinaus.

Der Encoder von Moondream basiert stattdessen auf Multi-Crop: Das Bild wird als eine Menge von Crops behandelt, deren Merkmale verkettet werden, was zugleich eine Möglichkeit ist, Details bei großen Eingaben zu bewahren, und damit verknüpft ist, wie sein Detektionskopf Boxen erzeugt. Beides sind legitime Antworten auf dasselbe Problem, und kein Anbieter veröffentlicht einen Direktvergleich bei identischer Auflösung, daher ist die nützliche Erkenntnis aus der Architekturdiskussion enger gefasst als ein Urteil: Wenn es bei deiner Arbeit um dichte Dokumente und breite UI-Screenshots geht, ist native Auflösung die Eigenschaft, die es zu testen gilt, und der Test ist ein eigener Screenshot, keine Benchmark-Zeile.

Der andere strukturelle Unterschied sind Multi-Image und Video. North Micro Vision Instruct verarbeitet verschachtelte Multi-Image-Eingaben und führt Multi-Image-Benchmarks unter den Gruppen auf, die es evaluiert hat. M​oondream 3.1 9B A2B ist auf ein Bild pro Aufruf ausgelegt — kein Video-Pfad, kein Multi-Image-Pfad. Das passt zu seinem Design: M​oondreams eigener Engineering-Text zu Live-Video argumentiert, dass das Problem eher in der Inferenz-Infrastruktur als in der Modellfähigkeit liegt, und die Antwort des Unternehmens auf zeitliche Workloads ist eine Engine, die mit einem Stream Schritt hält, statt eines Checkpoints, der einen Stream aufnimmt. Ob das eine bessere Antwort ist als ein Modell, das 128 Frames auf einmal aufnimmt, ist eine ehrliche offene Frage, und die beiden Anbieter messen nicht dasselbe.

Deployment und Lizenz, schnell

• Größe — 9B insgesamt / 2B aktiv gegenüber einem dichten Modell mit 2,4B. Speichertechnisch ist die Lücke größer, als es das Verhältnis der aktiven Parameter nahelegt, weil der Speicherbedarf eines Sparse-Modells seiner Gesamtparameterzahl folgt.

• Skala des Fine-Tunings — ein dichtes 2,4B-Modell ist klein genug, um auf einem einzelnen Gerät feinabgestimmt zu werden; ein dünnbesetztes 9B-Modell verlangt ein echtes Trainings-Setup für alles, was über ein LoRA hinausgeht, weshalb der eigene Tuning-Pfad von Moondream über ein gehostetes Produkt lief.

• Laufzeiten — North Micro Vision Instruct erfordert Transformers 5.16.0 mit accelerate und Pillow; Community-Quantisierungen sind in MLX-, LiteRT- und ONNX-nahen Formaten verfügbar. M​oondream 3.1 9B A2B läuft auf Photon, wobei die erste GGUF-Paketierung des Checkpoints durch Dritte am 15. Oktober 2026 erscheint.

• Lizenz — Apache 2.0 für North Micro Vision Instruct, ohne Schwellenwert und ohne Einschränkung, es für andere zu hosten. Die M​oondream Model License 1.0 für M​oondream 3.1 9B A2B: kommerzielle Nutzung, Self-Hosting, Fine-Tuning, Quantisierung und Weiterverbreitung sind alle erlaubt, mit einem Verbot — Sie dürfen allgemeine M​oondream-Inferenz oder Fine-Tuning nicht als gehosteten Dienst anbieten.

• Churn — North Micro Vision Instruct ist seit der Veröffentlichung unverändert; die nennenswerten neuen Ergänzungen sind Drittanbieter-Quantisierungen. Die Nutzungsbedingungen von M​oondream haben sich in den letzten zwei Wochen unter dieser Rubrik geändert: Prime Intellect hat das Unternehmen am 13. Oktober 2026 übernommen, und M​oondream Cloud, einschließlich des Lens-Fine-Tuning-Produkts, wird am 13. November 2026 eingestellt. Die Gewichte und Photon sind nicht betroffen; der gehostete Pfad hingegen schon.

Das zweite Modell in der Pipeline und wer es routet

Keiner dieser Checkpoints wird auf OrcaRouter bereitgestellt, daher ist dies als Integrationshinweis zu verstehen. Beide sind einstufige Komponenten: Die eine liefert Boxen, die andere liefert Text, und ein Produktionssystem braucht dahinter ein Modell, das entscheidet, was die Beobachtung bedeutet, und sie festhält. Diese Stufe ist eine Textstufe, sie kostet pro Aufruf in der Regel mehr als die Vision-Stufe, und sie ist die Stufe, die man zuerst austauschen möchte, wenn ein günstigeres oder besseres Reasoning-Modell auftaucht. Diesen Wechsel über einen OpenAI-kompatiblen Endpunkt über mehr als 200 Modelle hinweg — wobei die Listenpreise der Anbieter mit 0 % Aufschlag weitergegeben werden und bei einer schlechten Stunde eines Upstreams automatisch ein Failover zwischen den Anbietern erfolgt — zu vollziehen, bedeutet, eine Modellkennung zu ändern, statt die Kamera neu zu verdrahten. Wo eine einzige Einschätzung nicht ausreicht, lässt Model Fusion ein Panel von Modellen auf dieselbe Eingabe laufen, und die Routing-DSL fasst mehrere zu einem einzigen Aufruf zusammen.

An einer Stelle können wir konkreter werden, und es lohnt sich, ehrlich zu sein, in welche Richtung es ausschlägt. North Micro Vision Instruct ist Apache 2.0 und klein genug, um auf Hardware zu laufen, die Sie besitzen, was bedeutet, dass das übliche Argument, ein Vision-Modell über einen gehosteten Endpunkt laufen zu lassen — nämlich dass Sie es nicht selbst hosten können —, nicht greift. Das Argument, das bleibt, ist das gewöhnliche: ein zweites Modell im Ablauf, mit demselben Schlüssel, mit einer Rechnung und einem Satz Zugangsdaten.

Was sollte man wählen, und was würde die Antwort verändern?

Wählen Sie North Micro Vision Instruct, wenn Sie Dokumente, Tabellen, Diagramme oder Bildschirminhalte lesen, wenn Sie mehrere Bilder in einem einzigen Aufruf benötigen, wenn Apache 2.0 wichtig ist, weil Sie das Modell für andere Personen hosten möchten, oder wenn Sie einen 2,4B-Checkpoint wünschen, den Sie mit Ihren eigenen Daten feinabstimmen können. Coheres Modellkarte verweist auf Fine-Tuning als vorgesehene Nutzung, und die Lizenz steht dem nicht im Weg.

Wählen Sie ​Moondream 3.1 9B A2B, wenn Ihre Ausgabe Geometrie ist – Boxen, Koordinaten, Zählungen mit zugehörigen Instanzen – und Ihre Bereitstellung eine CUDA-Box mit Photon darauf ist. Das Modell ist spezialisiert, und sein Geschwindigkeitsversprechen zielt genau auf diese Arbeitslast ab.

Was die Antwort für beide ändern würde, ist eine unabhängige Evaluation, und genau das gilt es weiterhin genau zu beobachten. Die Zahlen keines der beiden Anbieter wurden außerhalb des jeweiligen Anbieters reproduziert, und jeder hat unter Bedingungen veröffentlicht, die die Reproduktion schwieriger machen, als nötig: Der eine hält seine Prompts zurück, der andere lief auf einer internen Serving-Implementierung eines Frameworks, dessen öffentliche Unterstützung noch aussteht. Wenn ein Dritter einen der beiden Checkpoints auf demselben Dokumentensatz laufen lässt, dann ist das Modell, dessen Tabelle diesen Kontakt unversehrt übersteht, dasjenige, dem man glauben sollte – und bis dahin ist der Anbieter, der Ihnen gesagt hat, wie er gemessen hat, derjenige, mit dem man leichter streiten kann.

Ein Ergebnis wie dieses ist auch eine Erinnerung daran, dass Modellfehler bereits dokumentiert sind: Die KI-Vorfälle und Agenten-Ausfälle hinter Modellen dieser Klasse werden im OrcaRouter AI Incident Archive gesammelt, wobei jeder Eintrag eigene Quellen, einen Schweregrad, eine Konfidenzstufe und eine Kennzeichnung als umstritten trägt.