Moondream 3.1 9B A2B vs North Micro Vision Instruct: Quale fornitore ti permette davvero di controllare il numero

Due modelli di visione open, a quattro mesi di distanza, con quasi nulla in comune su come chiedono di essere giudicati. M​oondream 3.1 9B A2B è stato lanciato il 7 luglio 2026 con una tabella di benchmark, una nota metodologica a piè di pagina che indica una singola H100 SXM5 e una dimensione del batch di 16, e un argomento che attraversa lo stesso post: i benchmark non misurano ciò di cui i suoi clienti hanno effettivamente bisogno. North Micro Vision Instruct è arrivato il 12 agosto 2026 da C​ohere Labs con 2,4B parametri sotto Apache 2.0, e il suo post di rilascio dedica l'intera sua lunghezza al curriculum di addestramento e alla sua configurazione di valutazione — l'harness utilizzato e gli esatti parametri di campionamento con cui sono stati prodotti i numeri.

Questa è una vera differenza di natura, ed è più utile per un acquirente del conteggio dei parametri di uno qualunque dei due modelli. Un fornitore ti sta dicendo come riprodurre la sua tabella. L'altro ti sta dicendo di non fidarti delle tabelle e poi ne pubblica una. Nessuno dei due è stato valutato in modo indipendente, per quanto ci risulta, quindi la domanda che decide davvero su quale insieme di numeri basarsi è quanto ciascun fornitore ti abbia dato per verificare.

Che cosa è ciascuno

Moondream 3.1 9B A2B è un modello visione-linguaggio sparse mixture-of-experts: 9B parametri totali, 2B attivi per token, 64 esperti con 8 attivi, un encoder visivo SigLIP con concatenazione di canali multi-crop, un contesto di 32K token e un tokenizer SuperBPE. Le sue quattro competenze — query, detect, point e caption — sono apprese tramite addestramento anziché tramite prompt, e i percorsi di rilevamento e puntamento restituiscono geometria strutturata anziché una descrizione. Viene eseguito su Photon, il motore di inferenza del fornitore, ed è destinato a GPU NVIDIA da Ampere in poi e ad Apple Silicon.

North Micro Vision Instruct è un modello denso da 2,4B costruito da tre parti: un encoder visivo a risoluzione nativa da 400M, ulteriormente pre-addestrato a partire dal checkpoint SigLIP 2 SO400M di Google; un proiettore che segue il pattern DeepStack di iniezione degli embedding delle patch da diversi layer dell'encoder nei primi layer del modello linguistico; e un modello linguistico da 2B chiamato North Micro LLM che segue l'architettura Command A+ di Cohere. Prende in input testo e immagini interlacciati — una o più — e restituisce testo. Il vocabolario del tokenizer è 262.144 e le lingue elencate arrivano a undici più «e altre ancora».

La differenza nel tipo di output merita di essere dichiarata chiaramente, perché determina ciò che segue: M​oondream è un modello di percezione che risponde con box e coordinate, North Micro Vision è un modello di comprensione che risponde con il linguaggio. Tutto ciò che ciascuno dei due fornitori pubblica è una misurazione di uno di questi due compiti, e non sono lo stesso compito.

Il numero 8K che non è la finestra di contesto del modello

Inizia dalla trappola, perché si trova nel mezzo della scheda del modello North Micro Vision ed è il tipo di cosa che finisce per caso in una decisione architetturale.

• North Micro Vision Instruct — finestra di contesto del backbone linguistico di 128.000 token; range operativo multimodale validato fino a 8.000 token. La scheda dichiara apertamente che i contesti multimodali più lunghi possono basarsi sull'estrapolazione e non sono stati sottoposti a benchmark.

• M​oondream 3.1 9B A2B — 32.000 token, un solo numero, nessuna deroga per modalità pubblicata.

Quindi il dato di punta favorisce North Micro Vision di un fattore quattro, mentre il dato che si applicherà effettivamente al tuo carico di lavoro sulle immagini favorisce Moondream di un fattore quattro. Se stai stimando quante pagine di un documento scansionato entrano in una singola chiamata, 128K è il numero sbagliato e 8K è quello giusto, e 8K di token intercalati di immagini e testo non sono molte pagine quando un encoder a risoluzione nativa inizia a emettere token in proporzione all'area in pixel. Il fornitore merita credito per aver pubblicato l'avvertenza — la maggior parte delle schede non lo farebbe — ma l'avvertenza è sepolta sotto una tabella di specifiche e la tabella è ciò che viene copiato.

Come riportano i due fornitori, fianco a fianco

Questa è la parte del confronto che non ha nulla a che vedere con i modelli e tutto a che vedere con quale di essi puoi verificare.

Il post di Moondream 3.1 dichiara i suoi baseline (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), la sua metrica (F1@0.5 per il rilevamento), il suo hardware (una H100 SXM5), la sua dimensione del batch (16), e il fatto che ogni modello è stato servito dal proprio motore — vLLM per LocateAnything, Qwen3.5 e Gemma 4; Photon per Moondream; Hugging Face Transformers per SAM 3. Dice anche che le impostazioni di accuratezza e ragionamento più elevate sono state scelte per ciascun modello, e che LocateAnything è stato eseguito in una modalità lenta per massimizzare l'accuratezza. I risultati che pubblica sono 81.46 F1@0.5 su COCO val, 93.94 su ODinW-13, 67.4 su LVIS, 74.61 su Dense200, 52.77 su SKU-110K, 74.5 su CrowdHuman, 87.1 su RefCOCO-M, 70.39 su HumanRef, 59.63 su DOTA-v2, 90.35 su CountBench, 74.86 su TallyQA, 88.68 su PixMo-Count, 86.01 su ChartQA e 88.6 su DocVQA, con dichiarazioni di stato dell'arte su cinque delle famiglie di benchmark.

Quello che non c’è in quel footer è la cosa che rende riproducibile un risultato: i prompt. Il rilevamento è un’attività a vocabolario aperto, e la frase con cui chiedi una cosa cambia ciò che viene restituito. Chi riesegue ha la metrica, l’hardware e la dimensione del batch, e comunque non riesce a riprodurre il numero senza sapere quale testo ha prodotto ogni box.

Il post di Cohere Labs adotta l'altro approccio. Nomina l'harness (VLMEvalKit), afferma che il modello è stato valutato con un'implementazione interna di vLLM, elenca la composizione dei benchmark per ciascun gruppo di capacità — General VQA è una media di MMBench, MMStar, RealWorldQA e GQA; il gruppo chart, document e OCR copre ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 e AI2D; grounding e counting sono la media di RefCOCO e CountBench — e pubblica i parametri di sampling con cui sono stati prodotti i numeri: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. Segnala inoltre che il supporto pubblico di vLLM è "in arrivo", che è la divulgazione onesta che conta di più per chiunque pianifichi di riprodurre: il modello è stato testato su un fork.

Ciò che quel post non pubblica è una tabella per benchmark. I suoi risultati sono medie per gruppo di capacità e un'affermazione relativa — in modalità Instruct, 35B-A3B ottiene un punteggio più alto in meno tempo di inferenza rispetto a Qwen3.6 35B-A3B, e la variante 1B supera Qwen3.5 0.8B sia in punteggio sia in efficienza — il che è meno immediatamente citabile e più robusto al cherry-picking. Nessuno dei due documenti ti consente di ricalcolare il numero dell'altro fornitore. Entrambi ti permettono di vedere quanto stanno nascondendo.

Dove la differenza architetturale si manifesta nella pratica

La risoluzione nativa è l'unica decisione progettuale di North Micro Vision che cambia il lavoro quotidiano, e vale la pena comprenderla prima delle tabelle di benchmark. La maggior parte degli encoder visivi ridimensiona qualunque immagine gli venga fornita in un quadrato fisso, ed è per questo che uno screenshot di un foglio di calcolo molto largo arriva al modello linguistico con le colonne schiacciate. L'encoder di North Micro Vision è addestrato a ricevere l'immagine alla sua risoluzione e al suo rapporto d'aspetto nativi, preservando i dettagli fini di documenti, tabelle, grafici e moduli. Il curriculum pubblicato è passato da una fase fissa a 384×384 su 10 milioni di esempi a una fase a 1024×1024 su 13 milioni e oltre.

L'encoder di Moondream si basa invece sul multi-crop: l'immagine viene trattata come un insieme di crop le cui feature sono concatenate, il che è anche un modo per preservare i dettagli su input di grandi dimensioni ed è legato a come la sua detection head produce i box. Entrambe sono risposte legittime allo stesso problema e nessuno dei due fornitori pubblica un confronto diretto a risoluzione equivalente, quindi la cosa utile da trarre dalla discussione sull'architettura è più limitata di un verdetto: se il tuo lavoro consiste in documenti densi e screenshot ampi di UI, la risoluzione nativa è la proprietà da testare, e il test è uno screenshot tuo, non una riga di benchmark.

L'altra differenza strutturale riguarda multi-immagine e video. North Micro Vision Instruct gestisce input multi-immagine interlacciati e include benchmark multi-immagine tra i gruppi che ha valutato. M​oondream 3.1 9B A2B è limitato a una sola immagine per chiamata — nessun percorso video, nessun percorso multi-immagine. Ciò è coerente con il suo design: la documentazione tecnica di M​oondream stessa sul video dal vivo sostiene che il problema sia l'infrastruttura di inferenza piuttosto che la capacità del modello, e la risposta dell'azienda ai carichi di lavoro temporali è un motore che tiene il passo con un flusso anziché un checkpoint che ne acquisisce uno. Se questa sia una risposta migliore rispetto a un modello che accetta 128 fotogrammi in una volta è una domanda aperta e onesta, e i due fornitori non stanno misurando la stessa cosa.

Distribuzione e licenza, rapidamente

• Dimensione — 9B in totale / 2B attivi contro 2,4B densi. In termini di archiviazione, il divario è più ampio di quanto suggerisca il rapporto dei parametri attivi, perché l'ingombro di un modello sparso segue il suo totale.

• Scala del fine-tuning — un modello denso da 2,4B è abbastanza piccolo da poter essere sottoposto a fine-tuning su un singolo dispositivo; un modello sparso da 9B richiede una vera configurazione di addestramento per qualsiasi cosa al di là di un LoRA, motivo per cui il percorso di tuning di M​oondream stesso passava attraverso un prodotto ospitato.

• Runtime — North Micro Vision Instruct richiede Transformers 5.16.0 con accelerate e Pillow; esistono quantizzazioni della community in MLX, LiteRT e formati affini a ONNX. M​oondream 3.1 9B A2B gira su Photon, con il primo packaging GGUF di terze parti del checkpoint che appare il 15 ottobre 2026.

• Licenza — Apache 2.0 per North Micro Vision Instruct, senza soglia e senza restrizioni sull'hosting per conto di altri. La M​oondream Model License 1.0 per M​oondream 3.1 9B A2B: uso commerciale, self-hosting, fine-tuning, quantizzazione e ridistribuzione tutti consentiti, con un'unica proibizione — non puoi offrire inferenza o fine-tuning M​oondream general-purpose come servizio ospitato.

• Turnover — North Micro Vision Instruct è statico dal rilascio; le aggiunte recenti degne di nota sono le quantizzazioni di terze parti. I termini di M​oondream sono cambiati nel frattempo nelle ultime due settimane: Prime Intellect ha acquisito la società il 13 ottobre 2026, e M​oondream Cloud, incluso il prodotto di fine-tuning Lens, chiude il 13 novembre 2026. I pesi e Photon non sono interessati; il percorso ospitato non lo è.

Il secondo modello nella pipeline, e chi lo instrada

Nessuno di questi checkpoint è servito su OrcaRouter, quindi leggete questo come una nota di integrazione. Entrambi sono componenti a stadio singolo: uno restituisce box, l'altro restituisce testo, e un sistema di produzione ha bisogno di un modello dietro di essi per decidere cosa significhi l'osservazione e per metterla per iscritto. Quello stadio è uno stadio testuale, di solito costa più per chiamata rispetto allo stadio di visione, ed è lo stadio che vorrete sostituire per primo quando compare un modello di ragionamento più economico o migliore. Fare quella sostituzione tramite un unico endpoint compatibile con OpenAI su oltre 200 modelli — con i prezzi di listino dei provider passati senza alcun ricarico (0% di markup) e failover automatico tra i provider quando un upstream ha un'ora storta — significa cambiare un identificatore di modello invece di ricablaggiare la telecamera. Dove un'unica opinione non basta, la fusione di modelli esegue un panel di modelli sullo stesso input, e il DSL di routing ne compone diversi in un'unica chiamata.

C'è un punto in cui possiamo essere più specifici, e vale la pena essere onesti su come ciò giochi a favore o contro. North Micro Vision Instruct è Apache 2.0 ed è abbastanza piccolo da poter essere eseguito su hardware di tua proprietà, il che significa che il consueto argomento a favore dell'instradamento di un modello di visione attraverso un endpoint ospitato — ovvero che non puoi ospitarlo autonomamente — non si applica. L'argomento che rimane è quello ordinario: un secondo modello nel loop, sulla stessa chiave, con una sola fattura e un unico set di credenziali.

Quale scegliere, e cosa cambierebbe la risposta

Scegli North Micro Vision Instruct se leggi documenti, tabelle, grafici o schermate, se ti servono più immagini in una sola chiamata, se Apache 2.0 è importante perché intendi ospitare il modello per altre persone, oppure se vuoi un checkpoint da 2,4B che puoi sottoporre a fine-tuning sui tuoi dati. La model card di Cohere indica il fine-tuning come uso previsto e la licenza non pone alcun ostacolo.

Scegli M​oondream 3.1 9B A2B se il tuo output è geometria — box, coordinate, conteggi con istanze associate — e il tuo deployment è una macchina CUDA con Photon installato. Il modello è specializzato e la sua promessa di velocità è mirata esattamente a quel carico di lavoro.

Ciò che cambierebbe la risposta per entrambi è una valutazione indipendente, ed è questa la cosa da continuare a tenere d'occhio. I numeri di nessuno dei due fornitori sono stati riprodotti al di fuori del fornitore stesso, e ciascuno ha pubblicato in condizioni che rendono la riproduzione più difficile del necessario: uno non rende noti i suoi prompt, l'altro è stato eseguito su un'implementazione di servizio interna di un framework il cui supporto pubblico è ancora in sospeso. Quando una terza parte eseguirà l'uno o l'altro checkpoint sullo stesso insieme di documenti, qualunque tabella di modello sopravviva intatta a quel contatto sarà quella di cui vale la pena fidarsi — e fino ad allora, il fornitore che ti ha detto come ha misurato è quello con cui è più facile discutere.

Un risultato come questo è anche un promemoria del fatto che gli errori dei modelli sono già documentati: gli incidenti AI e i fallimenti degli agenti dietro i modelli di questa classe sono raccolti in l'OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.