Moondream 3.1 9B A2B vs North Micro Vision Instruct: Vilken leverantör låter dig faktiskt kontrollera numret?

Två öppna visionsmodeller, fyra månader isär, med nästan inget gemensamt kring hur de ber att bli bedömda. M​oondream 3.1 9B A2B lanserades den 7 juli 2026 med en benchmarktabell, en metodavslutning som namnger en enda H100 SXM5 och en batchstorlek på 16, samt ett argument som löper genom samma inlägg: att benchmarkar inte mäter vad dess kunder faktiskt behöver. North Micro Vision Instruct anlände den 12 augusti 2026 från C​ohere Labs med 2,4B parametrar under Apache 2.0, och dess lanseringsinlägg ägnar hela sitt utrymme åt träningscurriculum och dess utvärderingsupplägg — testramverket som användes, och de exakta samplingsparametrar som siffrorna togs fram med.

Det är en verklig skillnad i art, och den är mer användbar för en köpare än någon av modellernas parameterantal. En leverantör berättar hur du återskapar dess tabell. Den andra säger att du inte ska lita på tabeller och trycker sedan en. Ingen av dem har utvärderats oberoende, såvitt vi kan finna, så frågan som verkligen avgör vilken uppsättning siffror man ska luta sig mot är hur mycket endera leverantören har gett dig att kontrollera.

Vad var och en är

Moondream 3.1 9B A2B är en gles mixture-of-experts vision-language-modell: 9B parametrar totalt, 2B aktiva per token, 64 experter varav 8 aktiva, en SigLIP-visionencoder med multi-crop channel concatenation, en kontext på 32K tokens och en SuperBPE-tokenizer. Dess fyra färdigheter – fråga, detektera, peka och bildtexta – tränas in i modellen snarare än att promptas, och detekterings- och pekningsvägarna returnerar strukturerad geometri snarare än beskrivning. Den körs på Photon, leverantörens inferensmotor, med inriktning på NVIDIA-GPU:er från Ampere och framåt samt Apple Silicon.

North Micro Vision Instruct är en 2,4B dens modell byggd av tre delar: en 400M visionskodare med nativ upplösning som vidareförtränats från Googles SigLIP 2 SO400M-checkpoint, en projektor som följer DeepStack-mönstret med att injicera patch-inbäddningar från flera kodarlager i tidiga lager i språkmodellen, och en 2B-språkmodell som kallas North Micro LLM och som följer Coheres Command A+-arkitektur. Den tar sammanflätad text och bilder – en eller flera – och producerar text. Tokeniserarens vokabulär är 262 144, och de listade språken uppgår till elva plus ”och mer”.

Skillnaden i utdatatyp är värd att säga rakt ut, eftersom den formar det som följer: M​oondream är en perceptionsmodell som svarar med boxar och koordinater, North Micro Vision är en förståelsemodell som svarar med språk. Allt som någon av leverantörerna publicerar är en mätning av en av dessa två uppgifter, och de är inte samma uppgift.

8K-siffran som inte är modellens kontextfönster

Börja med fällan, för den sitter mitt i North Micro Vision-modellkortet och det är den typ av sak som av misstag hamnar i ett arkitekturbeslut.

• North Micro Vision Instruct — språklig bas-kontextfönster 128 000 tokens; validerat multimodalt arbetsområde upp till 8 000 tokens. Kortet anger uttryckligen att längre multimodala kontexter kan bygga på extrapolering och inte har benchmarkats.

• M​oondream 3.1 9B A2B — 32 000 tokens, ett nummer, inget modalitetsundantag publicerat.

Så rubriksiffran talar till North Micro Vision:s fördel med en faktor fyra, och siffran som faktiskt kommer att gälla för din bildarbetsbelastning talar till M​oondreams fördel med en faktor fyra. Om du uppskattar hur många sidor av ett skannat dokument som ryms i ett enda anrop, är 128K fel siffra och 8K rätt siffra, och 8K interfolierade bild- och texttokens är inte många sidor när en encoder med nativ upplösning börjar avge tokens i proportion till pixelarean. Leverantören förtjänar beröm för att ha publicerat förbehållet – de flesta kort skulle inte göra det – men förbehållet ligger begravt under en tabell med specifikationer, och det är tabellen som kopieras.

Hur de två leverantörerna rapporterar, sida vid sida

Det här är den del av jämförelsen som inte har något med modellerna att göra och allt att göra med vilken av dem du kan granska.

M​oondreams 3.1-inlägg anger sina baslinjer (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), sin metrik (F1@0.5 för detektion), sin hårdvara (en H100 SXM5), sin batchstorlek (16) och att varje modell serverades av sin egen motor – vLLM för LocateAnything, Qwen3.5 och Gemma 4; Photon för M​oondream; Hugging Face Transformers för SAM 3. Det säger också att de högsta inställningarna för noggrannhet och resonemang valdes per modell, och att LocateAnything kördes i ett långsamt läge för att maximera noggrannheten. Resultaten som publiceras är 81,46 F1@0.5 på COCO val, 93,94 på ODinW-13, 67,4 på LVIS, 74,61 på Dense200, 52,77 på SKU-110K, 74,5 på CrowdHuman, 87,1 på RefCOCO-M, 70,39 på HumanRef, 59,63 på DOTA-v2, 90,35 på CountBench, 74,86 på TallyQA, 88,68 på PixMo-Count, 86,01 på ChartQA och 88,6 på DocVQA, med anspråk på state of the art inom fem av benchmarkfamiljerna.

Det som inte står i den sidfoten är det som gör ett resultat reproducerbart: promptarna. Detektion är en uppgift med öppen vokabulär, och frasen du använder för att fråga efter en sak ändrar vad som kommer tillbaka. Den som kör om har metriken, hårdvaran och batchstorleken, och kan ändå inte reproducera siffran utan att veta vilken text som producerade varje box.

Cohere Labs inlägg tar den andra vägen. Det namnger testramverket (VLMEvalKit), säger att modellen utvärderades med en intern vLLM-implementation, listar benchmarkens sammansättning för varje förmågegrupp – Allmän VQA är ett genomsnitt över MMBench, MMStar, RealWorldQA och GQA; gruppen för diagram, dokument och OCR omfattar ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 och AI2D; grounding och räkning är RefCOCO-genomsnitt och CountBench – och publicerar de samplingsparametrar som siffrorna togs fram under: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. Det påpekar också att offentligt vLLM-stöd "kommer snart", vilket är det ärliga avslöjande som spelar störst roll för alla som planerar att reproducera: modellen testades på en fork.

Det som det inlägget inte publicerar är en tabell per benchmark. Dess resultat är genomsnitt för förmågegrupper och ett relativt påstående – i Instruct-läge får 35B-A3B högre poäng på kortare inferenstid än Qwen3.6 35B-A3B, och 1B-varianten överträffar Qwen3.5 0.8B både i poäng och effektivitet – vilket är mindre omedelbart citerbart och mer robust mot cherry-picking. Inget av dokumenten låter dig räkna om den andra leverantörens siffra. Båda låter dig se hur mycket de döljer.

Var arkitekturskillnaden visar sig i praktiken

Ursprunglig upplösning är det designbeslut i North Micro Vision som förändrar det dagliga arbetet, och det är värt att förstå före benchmark-tabellerna. De flesta visionskodare ändrar storleken på det du ger dem till en fast kvadrat, vilket är anledningen till att en bred skärmbild av ett kalkylblad når språkmodellen med sina kolumner ihoptryckta. North Micro Visions kodare är tränad att ta bilden i dess egen upplösning och bildförhållande, vilket bevarar den fina detaljrikedomen i dokument, tabeller, diagram och formulär. Det publicerade träningsupplägget gick från en fast 384×384-fas med 10 miljoner exempel till en 1024×1024-fas med 13 miljoner och därutöver.

Moondreams encoder bygger i stället på multi-crop: bilden behandlas som en uppsättning beskärningar vars särdrag sammanfogas, vilket också är ett sätt att bevara detaljer vid stora indata och hänger samman med hur dess detektionshuvud producerar boxar. Båda är legitima svar på samma problem, och ingen av leverantörerna publicerar en direkt jämförelse vid matchande upplösning, så det användbara man kan ta med sig från arkitekturdiskussionen är mer begränsat än en slutgiltig dom: om ditt arbete handlar om innehållstäta dokument och breda UI-skärmbilder är ursprunglig upplösning den egenskap som bör testas, och testet är en egen skärmbild, inte en rad i en benchmark.

Den andra strukturella skillnaden gäller flerbild och video. North Micro Vision Instruct hanterar sammanflätad flerbildsindata och listar flerbildsbenchmarks bland de grupper den utvärderade. M​oondream 3.1 9B A2B är begränsad till en bild per anrop – ingen videoväg, ingen flerbildsväg. Det är förenligt med dess design: M​oondreams egen ingenjörstext om livevideo argumenterar för att problemet är inferensinfrastruktur snarare än modellens kapacitet, och företagets svar på tidsberoende arbetsbelastningar är en motor som håller jämna steg med en ström snarare än en checkpoint som tar in en. Huruvida det är ett bättre svar än en modell som tar 128 bildrutor samtidigt är en ärligt öppen fråga, och de två leverantörerna mäter inte samma sak.

Distribution och licens, snabbt

• Storlek – 9B totalt / 2B aktiva mot en tät modell på 2,4B. Lagringsmässigt är gapet bredare än vad kvoten aktiva parametrar antyder, eftersom en gles modells fotavtryck följer dess total.

• Finjusteringsskala — en tät 2,4B-modell är tillräckligt liten för att finjusteras på en enda enhet; en gles 9B-modell kräver en riktig träningsmiljö för allt bortom en LoRA, vilket är anledningen till att Moondreams egen finjusteringsväg gick via en hostad produkt.

• Körtider — North Micro Vision Instruct kräver Transformers 5.16.0 med accelerate och Pillow; communitykvantiseringar finns i MLX-, LiteRT- och ONNX-närliggande format. M​oondream 3.1 9B A2B körs på Photon, där den första tredjeparts-GGUF-förpackningen av checkpunkten dyker upp den 15 oktober 2026.

• Licens — Apache 2.0 för North Micro Vision Instruct, utan tröskelvärde och utan begränsning för att hosta den åt andra. M​oondream Model License 1.0 för M​oondream 3.1 9B A2B: kommersiell användning, självhostning, finjustering, kvantisering och vidaredistribution är alla tillåtna, med ett förbud — du får inte erbjuda allmän M​oondream-inferens eller finjustering som en hostad tjänst.

• Churn — North Micro Vision Instruct har varit statisk sedan lanseringen; de noterbara nya tilläggen är tredjepartskvantiseringar. M​oondreams villkor ändrades under de senaste två veckorna: Prime Intellect förvärvade företaget den 13 oktober 2026, och M​oondream Cloud, inklusive finjusteringsprodukten Lens, stänger ner den 13 november 2026. Vikterna och Photon påverkas inte; den hostade vägen gör det.

Den andra modellen i pipelinen, och vem som routar den

Ingen av dessa checkpoints finns på OrcaRouter, så läs detta som en integrationsnotis. Båda är enstegskomponenter: den ena returnerar boxar, den andra returnerar text, och ett produktionssystem behöver en modell bakom dem för att avgöra vad observationen betyder och för att skriva ner den. Det steget är ett textsteg, det kostar vanligtvis mer per anrop än visionssteget, och det är steget du vill byta ut först när en billigare eller bättre resonemangsmodell dyker upp. Att göra det bytet via en OpenAI-kompatibel endpoint över 200-plus modeller — med leverantörernas listpriser vidarebefordrade med 0 % påslag och automatisk redundans mellan leverantörer när en uppströms tjänst har en dålig timme innebär att ändra en modellidentifierare i stället för att dra om kablarna till kameran. När en enskild åsikt inte räcker kör modellfusion en panel av modeller på samma indata, och routnings-DSL:en komponerar ihop flera till ett enda anrop.

Det finns en punkt där vi kan vara mer specifika, och det är värt att vara ärliga om vilket håll det skär åt. North Micro Vision Instruct är Apache 2.0 och tillräckligt litet för att köras på hårdvara du äger, vilket innebär att det vanliga argumentet för att dirigera en visionsmodell via en hostad slutpunkt – att du inte kan självhosta den – inte gäller. Argumentet som återstår är det vanliga: en andra modell i loopen, med samma nyckel, med en faktura och en uppsättning autentiseringsuppgifter.

Vilket ska man välja, och vad skulle ändra svaret

Välj North Micro Vision Instruct om du läser dokument, tabeller, diagram eller skärmar, om du behöver flera bilder i ett anrop, om Apache 2.0 spelar roll eftersom du avser att hosta modellen åt andra, eller om du vill ha en 2.4B checkpoint som du kan finjustera på dina egna data. C​oheres modellkort pekar på finjustering som avsedd användning och licensen utgör inget hinder.

Välj Moondream 3.1 9B A2B om din utdata är geometri – boxar, koordinater, antal med instanser kopplade – och din driftsättning är en CUDA-burk med Photon på. Modellen är specialiserad och dess hastighetspåstående är riktat mot exakt den arbetsbelastningen.

Det som skulle förändra svaret för båda är en oberoende utvärdering, och det är det man bör hålla ögonen på. Ingen av leverantörernas siffror har reproducerats utanför leverantören, och båda har publicerat under förhållanden som gör reproduktionen svårare än den behöver vara: den ena undanhåller sina prompter, den andra kördes på en intern serving-implementation av ett ramverk vars offentliga stöd fortfarande väntar. När en tredje part kör någon av checkpunkterna på samma dokumentuppsättning är det den modell vars tabell klarar den kontakten intakt som är värd att tro på — och fram till dess är den leverantör som berättade hur den mätte den lättare att argumentera med.

Ett resultat som detta är också en påminnelse om att modellmisstag redan är dokumenterade: AI-incidenterna och agentfelen bakom modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omtvistat.