Moondream 3.1 9B A2B vs North Micro Vision Instruct: welke leverancier laat je daadwerkelijk het nummer controleren?

Twee open visionmodellen, vier maanden na elkaar, met vrijwel niets gemeenschappelijks in hoe ze beoordeeld willen worden. M​oondream 3.1 9B A2B werd gelanceerd op 7 juli 2026 met een benchmarktabel, een methodologievoettekst die één H100 SXM5 en een batchgrootte van 16 vermeldt, en een betoog dat door dezelfde post heen loopt: benchmarks meten niet wat zijn klanten echt nodig hebben. North Micro Vision Instruct verscheen op 12 augustus 2026 van C​ohere Labs met 2,4 miljard parameters onder Apache 2.0, en de releasepost besteedt de hele tekst aan het trainingscurriculum en de evaluatieopzet — de gebruikte harness, en de exacte samplingparameters waarmee de cijfers zijn geproduceerd.

Dat is een wezenlijk verschil van aard, en het is voor een koper nuttiger dan het aantal parameters van een van beide modellen. De ene leverancier vertelt je hoe je zijn tabel kunt reproduceren. De andere zegt je dat je tabellen niet moet vertrouwen en drukt er vervolgens een af. Voor zover wij kunnen nagaan, is geen van beide onafhankelijk geëvalueerd, dus de vraag die echt bepaalt op welke set cijfers je moet afgaan, is hoeveel elk van beide leveranciers je heeft gegeven om te controleren.

Wat elk is

M​oondream 3.1 9B A2B is een sparse mixture-of-experts vision-languagemodel: 9B parameters in totaal, 2B actief per token, 64 experts waarvan 8 actief, een SigLIP-visionencoder met concatenatie van multi-crop-kanalen, een context van 32K tokens en een SuperBPE-tokenizer. De vier vaardigheden — bevragen, detecteren, aanwijzen en beschrijven — zijn getraind in plaats van geprompt, en de detectie- en aanwijspaden geven gestructureerde geometrie terug in plaats van een beschrijving. Het draait op Photon, de inferentie-engine van de leverancier, en richt zich op N​VIDIA-GPU's vanaf Ampere en op Apple Silicon.

North Micro Vision Instruct is een dense model van 2,4B dat uit drie delen is opgebouwd: een vision-encoder met native resolutie van 400M die verder is voorgetraind vanaf het SigLIP 2 SO400M-checkpoint van Google, een projector die het DeepStack-patroon volgt door patch-embeddings uit meerdere encoderlagen in vroege taalmodellagen te injecteren, en een taalmodel van 2B genaamd North Micro LLM dat de Command A+ architectuur van Cohere volgt. Het verwerkt afwisselende tekst en afbeeldingen — één of meerdere — en geeft tekst als uitvoer. De tokenizer-woordenschat is 262.144, en de vermelde talen lopen tot elf plus 'en meer'.

Het verschil in uitvoertype is het duidelijk vermelden waard, omdat het bepaalt wat volgt: M​oondream is een perceptiemodel dat antwoordt met kaders en coördinaten, North Micro Vision is een begripsmodel dat antwoordt met taal. Alles wat een van beide leveranciers publiceert, is een meting van een van die twee taken, en dat zijn niet dezelfde taken.

Het 8K-getal dat niet het contextvenster van het model is

Begin met de valkuil, want die staat midden in de North Micro Vision-modelkaart en het is het soort ding dat per ongeluk in een architectuurbeslissing terechtkomt.

• North Micro Vision Instruct — contextvenster van de taal-backbone: 128.000 tokens; gevalideerd multimodaal werkbereik tot 8.000 tokens. De kaart zegt ronduit dat langere multimodale contexten mogelijk op extrapolatie vertrouwen en niet zijn gebenchmarkt.

• M​oondream 3.1 9B A2B — 32.000 tokens, één getal, geen gepubliceerde uitzondering per modaliteit.

Dus het kopcijfer bevoordeelt North Micro Vision met een factor vier, en het cijfer dat feitelijk voor jouw beeldworkload zal gelden, bevoordeelt M​oondream met een factor vier. Als je schat hoeveel pagina's van een gescand document in één aanroep passen, is 128K het verkeerde getal en 8K het juiste, en 8K aan verweven beeld- en tekentokens zijn niet veel pagina's zodra een encoder met native resolutie tokens begint uit te sturen in verhouding tot het pixeloppervlak. De leverancier verdient lof voor het publiceren van de kanttekening — de meeste kaarten zouden dat niet doen — maar de kanttekening is begraven onder een tabel met specificaties en het is de tabel die wordt gekopieerd.

Hoe de twee leveranciers rapporteren, naast elkaar

Dit is het deel van de vergelijking dat niets met de modellen te maken heeft en alles met de vraag welke je kunt auditen.

Het bericht over M​oondream 3.1 vermeldt de baselines (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), de metriek (F1@0.5 voor detectie), de hardware (één H100 SXM5), de batchgrootte (16) en het feit dat elk model door zijn eigen engine werd bediend — vLLM voor LocateAnything, Qwen3.5 en Gemma 4; Photon voor M​oondream; Hugging Face Transformers voor SAM 3. Het zegt ook dat per model de hoogste nauwkeurigheids- en redeneerinstellingen zijn gekozen, en dat LocateAnything in een langzame modus draaide om de nauwkeurigheid te maximaliseren. De gepubliceerde resultaten zijn 81.46 F1@0.5 op COCO val, 93.94 op ODinW-13, 67.4 op LVIS, 74.61 op Dense200, 52.77 op SKU-110K, 74.5 op CrowdHuman, 87.1 op RefCOCO-M, 70.39 op HumanRef, 59.63 op DOTA-v2, 90.35 op CountBench, 74.86 op TallyQA, 88.68 op PixMo-Count, 86.01 op ChartQA en 88.6 op DocVQA, met state-of-the-art-beweringen voor vijf van de benchmarkfamilies.

Wat niet in die voettekst staat, is hetgeen een resultaat reproduceerbaar maakt: de prompts. Detectie is een open-vocabulary-taak, en de formulering waarmee je om iets vraagt, verandert wat er terugkomt. Wie het opnieuw uitvoert, heeft de metriek, de hardware en de batchgrootte, en kan het getal nog steeds niet reproduceren zonder te weten welke tekst elke box heeft geproduceerd.

C​ohere Labs' bericht volgt de andere aanpak. Het noemt de harness (VLMEvalKit), zegt dat het model is geëvalueerd met een interne vLLM-implementatie, somt de benchmarksamenstelling per capaciteitsgroep op — General VQA is een gemiddelde over MMBench, MMStar, RealWorldQA en GQA; de groep grafieken, documenten en OCR omvat ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 en AI2D; grounding en counting zijn het RefCOCO-gemiddelde en CountBench — en publiceert de samplingparameters waaronder de cijfers zijn geproduceerd: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. Het vermeldt ook dat openbare vLLM-ondersteuning "binnenkort beschikbaar" is, wat de eerlijke openbaarmaking is die er het meest toe doet voor iedereen die van plan is het te reproduceren: het model is getest op een fork.

Wat dat bericht niet publiceert, is een tabel per benchmark. De resultaten zijn gemiddelden per capaciteitsgroep en een relatieve bewering — in Instruct-modus scoort 35B-A3B hoger in minder inferentietijd dan Qwen3.6 35B-A3B, en de 1B-variant presteert beter dan Qwen3.5 0.8B op zowel score als efficiëntie — wat minder direct citeerbaar is en robuuster tegen cherry-picking. Geen van beide documenten laat je het cijfer van de andere leverancier herberekenen. Beide laten je zien hoeveel ze verbergen.

Waar het verschil in architectuur in de praktijk zichtbaar wordt

Native resolutie is de enige ontwerpkeuze in North Micro Vision die het dagelijkse werk verandert, en het is de moeite waard om die te begrijpen voordat je naar de benchmarktabellen kijkt. De meeste vision-encoders schalen alles wat je ze geeft naar een vast vierkant, waardoor een brede spreadsheet-screenshot bij het taalmodel aankomt met samengeperste kolommen. De encoder van North Micro Vision is getraind om de afbeelding op zijn eigen resolutie en beeldverhouding te verwerken, waarbij de fijne details van documenten, tabellen, grafieken en formulieren behouden blijven. Het gepubliceerde curriculum ging van een vaste fase van 384×384 op 10 miljoen voorbeelden naar een fase van 1024×1024 op 13 miljoen en verder.

De encoder van M​oondream is daarentegen gebaseerd op multi-crop: de afbeelding wordt behandeld als een verzameling crops waarvan de kenmerken worden geconcateneerd, wat ook een manier is om details bij grote invoer te behouden en samenhangt met hoe het detectiehoofd de boxes produceert. Beide zijn legitieme antwoorden op hetzelfde probleem, en geen van beide leveranciers publiceert een rechtstreekse vergelijking bij dezelfde resolutie, dus wat je nuttigs uit de architectuurdiscussie kunt halen, is beperkter dan een eindoordeel: als je werk uit dichte documenten en brede UI-screenshots bestaat, is native resolutie de eigenschap om te testen, en de test is een screenshot van jezelf, niet een rij uit een benchmark.

Het andere structurele verschil is meerdere afbeeldingen en video. North Micro Vision Instruct verwerkt interleaved invoer met meerdere afbeeldingen en noemt benchmarks voor meerdere afbeeldingen onder de groepen die het heeft geëvalueerd. M​oondream 3.1 9B A2B is beperkt tot één afbeelding per aanroep — geen videopad, geen pad voor meerdere afbeeldingen. Dat past bij het ontwerp: M​oondreams eigen technische tekst over live video betoogt dat het probleem eerder in de inferentie-infrastructuur zit dan in de capaciteit van het model, en het antwoord van het bedrijf op temporele workloads is een engine die een stream bijhoudt in plaats van een checkpoint dat er één opneemt. Of dat een beter antwoord is dan een model dat 128 frames tegelijk verwerkt, is een oprechte open vraag, en de twee leveranciers meten niet hetzelfde.

Implementatie en licentie, snel

• Grootte — 9B totaal / 2B actief tegenover 2,4B dense. In opslagtermen is de kloof groter dan de verhouding tussen actieve parameters doet vermoeden, omdat de voetafdruk van een sparse model zijn totaal volgt.

• Schaal van fine-tuning — een dense model van 2,4B is klein genoeg om op één apparaat te fine-tunen; een sparse model van 9B vraagt om een echte trainingsopstelling voor alles wat verder gaat dan een LoRA, en daarom liep het eigen tuningtraject van M​oondream via een gehost product.

• Runtimes — North Micro Vision Instruct vereist Transformers 5.16.0 met accelerate en Pillow; er bestaan communitykwantisaties in MLX, LiteRT en ONNX-aanverwante formaten. M​oondream 3.1 9B A2B draait op Photon, waarbij de eerste GGUF-verpakking door derden van de checkpoint op 15 oktober 2026 verschijnt.

• Licentie — Apache 2.0 voor North Micro Vision Instruct, zonder drempel en zonder beperking op het hosten ervan voor anderen. De M​oondream Model License 1.0 voor M​oondream 3.1 9B A2B: commercieel gebruik, self-hosting, fine-tuning, kwantisatie en redistributie zijn allemaal toegestaan, met één verbod — u mag geen algemene M​oondream-inferentie of fine-tuning als gehoste dienst aanbieden.

• Churn — North Micro Vision Instruct is sinds de release statisch; de opvallende recente toevoegingen zijn kwantisaties van derden. De voorwaarden van M​oondream zijn de afgelopen twee weken gewijzigd: Prime Intellect heeft het bedrijf op 13 oktober 2026 overgenomen, en M​oondream Cloud, inclusief het Lens-finetuningproduct, wordt op 13 november 2026 stopgezet. De gewichten en Photon blijven onaangetast; het gehoste pad niet.

Het tweede model in de pijplijn, en wie het routeert

Geen van deze checkpoints wordt aangeboden op OrcaRouter, dus lees dit als een integratienoot. Beide zijn componenten met één enkele fase: de ene retourneert boxen, de andere retourneert tekst, en een productiesysteem heeft een model daarachter nodig om te bepalen wat de observatie betekent en om die vast te leggen. Die fase is een tekstfase, kost doorgaans meer per aanroep dan de visiefase, en is de fase die je het eerst wilt vervangen wanneer er een goedkoper of beter redeneermodel opduikt. Dat vervangen via één OpenAI-compatibel endpoint voor meer dan 200 modellen — met lijstprijzen van providers die tegen 0% opslag worden doorgegeven en automatische failover tussen providers wanneer een upstream een slecht uur doormaakt — betekent het wijzigen van een model-id in plaats van het opnieuw aansluiten van de camera. Waar één mening niet genoeg is, draait model fusion een panel van modellen op dezelfde input, en de routing-DSL stelt er meerdere samen tot één enkele aanroep.

Er is één plek waar we specifieker kunnen zijn, en het is de moeite waard om eerlijk te zijn over welke kant het opgaat. North Micro Vision Instruct is Apache 2.0 en klein genoeg om te draaien op hardware die je zelf bezit, wat betekent dat het gebruikelijke argument om een visionmodel via een gehoste endpoint te routeren — dat je het niet zelf kunt hosten — niet van toepassing is. Het argument dat overblijft is het gewone: een tweede model in het proces, op dezelfde sleutel, met één factuur en één set inloggegevens.

Welke te kiezen, en wat zou het antwoord veranderen

Kies North Micro Vision Instruct als je documenten, tabellen, grafieken of schermen leest, als je meerdere afbeeldingen in één aanroep nodig hebt, als Apache 2.0 van belang is omdat je van plan bent het model voor anderen te hosten, of als je een 2.4B-checkpoint wilt dat je op je eigen data kunt fine-tunen. De modelkaart van C​ohere wijst fine-tuning aan als het beoogde gebruik en de licentie staat niets in de weg.

Kies M​oondream 3.1 9B A2B als je uitvoer geometrie is — boxes, coördinaten, aantallen met bijbehorende instanties — en je implementatie een CUDA-machine is met Photon erop. Het model is gespecialiseerd en de snelheidsclaim is precies op die workload gericht.

Wat het antwoord voor beide zou veranderen, is een onafhankelijke evaluatie, en dat is wat je in de gaten moet blijven houden. Van geen van beide leveranciers zijn de cijfers buiten de leverancier om gereproduceerd, en elk publiceerde onder omstandigheden die reproductie moeilijker maken dan nodig is: de een houdt zijn prompts achter, de ander draaide op een interne serving-implementatie van een framework waarvan de openbare ondersteuning nog op zich laat wachten. Wanneer een derde partij een van beide checkpoints op dezelfde documentenset laat draaien, is het de modeltabel die dat contact intact doorstaat die het geloof waard is — en tot die tijd is de leverancier die je heeft verteld hoe hij heeft gemeten, de partij met wie je makkelijker in discussie kunt gaan.

Een resultaat zoals dit is ook een herinnering eraan dat modelfouten al gedocumenteerd zijn: de AI-incidenten en agentfouten achter modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, zekerheidsgraad en betwistingsmarkering bevat.