NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: Tre volte i parametri, nessuno dei due fa lo stesso lavoro

Il modo ovvio di leggere un confronto tra N​VIDIA N​emotron Labs Dory 1.0 4B e G​emma 4 12B è come una sfida sulle dimensioni — 4B contro 12B, piccolo contro medio — e questa inquadratura spreca il confronto, perché i due modelli non accettano gli stessi input, non hanno la stessa impostazione in materia di licenza e non diventano più veloci allo stesso modo. Dory è una rete looped solo testo, solo inglese, la cui caratteristica distintiva è che un singolo download serve diversi budget di calcolo. G​emma 4 12B è un modello multimodale any-to-any che accetta testo, immagini e audio attraverso un unico stack senza encoder e restituisce testo. Il divario di parametri è reale, ma è la differenza meno informativa tra i due. Ecco cosa separa davvero i due modelli, incluse le parti in cui nessuno ha ancora eseguito l'esperimento.

Che cos'è ciascuno, in un'unica passata

N​VIDIA N​emotron Labs Dory 1.0 4B è un modello denso da 4B addestrato da N​VIDIA e pubblicato su Hugging Face in quattro quantizzazioni — BF16, MXFP8, NVFP4 e un Q5_K_M GGUF — con licenza OpenMDW 1.1. La sua scheda riporta la build "GA (10/16/2026)". Gestisce testo in input e testo in output, solo in inglese, fino a 256K token di contesto. L'architettura è il punto: un blocco ricorrente a 20 livelli applicato un numero variabile di volte tra un blocco di input a 8 livelli e un blocco di output a 8 livelli, così il numero di iterazioni diventa una manopola in fase di serving anziché una decisione in fase di addestramento. N​VIDIA consiglia due iterazioni come impostazione predefinita e quattro quando l'accuratezza agentica conta di più. Nulla della release è stato annunciato; i repository sono stati popolati durante la notte e il vendor non ha pubblicato alcun post di accompagnamento.

Gemma 4 12B è il modello multimodale denso da 11,95B di Google DeepMind, Apache 2.0, contesto 256K, 48 layer con attenzione ibrida e una finestra scorrevole da 1024 token, e un vocabolario da 262K. È descritto come senza encoder: le patch di immagini e le forme d'onda audio vengono proiettate direttamente nello spazio di embedding del modello linguistico anziché attraverso encoder di visione e audio separati. Testo, immagine e audio in input; testo in output. Il video viene gestito come frame campionati, con la scheda che limita l'audio a circa 30 secondi e il video a circa 60 secondi a circa un frame al secondo. Supporta modalità di pensiero configurabili e un ruolo di sistema nativo, ed è pubblico e ampiamente scaricato dalla metà del 2026.

Una precisazione che vale la pena fare prima che compaia qualsiasi numero: Dory è distribuito in quattro varianti e quella il cui ID del repository è citato più spesso è la build MXFP8, ma i benchmark pubblicati da NVIDIA sono stati misurati su BF16. Il checkpoint MXFP8 è una quantizzazione degli stessi pesi, non un modello diverso.

Il problema del benchmark: questi due non sono mai stati messi a confronto

Questa è la parte che un articolo di confronto di solito sorvola, quindi vale la pena affermarlo senza mezzi termini. Non esiste un risultato di harness condiviso per Dory 1.0 4B e G​emma 4 12B. La tabella di benchmark di N​VIDIA per Dory lo confronta con Qwen3.5-4B, Qwen3.5-9B, G​emma 4 26B A4B e Qwen3.6-35B-A3B — punta al 26B G​emma, non al 12B, e non include affatto il 12B. I dati pubblicati da G​oogle per il 12B provengono da un harness diverso, rispetto a un insieme di confronti diverso, in un documento pubblicato mesi prima e che copre un mix di attività diverso.

Mettere fianco a fianco i numeri delle due schede produce una tabella che sembra autorevole e non significa nulla, perché una differenza di due punti tra due harness non è una differenza di due punti tra due modelli. Quindi la versione onesta è questa: la scheda di Dory stessa dichiara un comportamento agentico all'incirca della classe di Qwen3.5-9B con quattro loop, pur rimanendo indietro rispetto a ogni singolo suo comparatore sui benchmark ad alta intensità di conoscenza, e la scheda di G​emma 4 12B dichiara un profilo multimodale con una finestra di 256K e varianti instruction-tuned in tutta la linea G​emma 4. Non è stato verificato se l'una o l'altra affermazione sopravviva al contatto con il set di attività dell'altra.

Dove si sovrappongono davvero, e dove finisce la sovrapposizione

Quattro dimensioni contano per una vera decisione, e puntano in direzioni diverse.

• Modalità — Gemma 4 12B accetta testo, immagini e audio. Dory 1.0 4B accetta testo. Non è un divario di benchmark che un sistema di valutazione potrebbe colmare; è una capacità che un modello ha e l'altro no, e se il tuo carico di lavoro contiene uno screenshot, una pagina scansionata o una clip vocale in qualsiasi punto, il confronto è finito.

• Lingua — Dory è solo in inglese. La linea di G​emma 4 è multilingue, e la sua scheda da 12B riporta valutazioni multilingue e risultati vocali, inclusi benchmark di traduzione da altre lingue. Una seconda lingua in qualsiasi punto della produzione esclude Dory.

• Contesto — entrambi pubblicizzano 256K, e questo è l'unico punto in cui le specifiche coincidono davvero. La scheda di Dory dice che 262.144 posizioni sono validate in vLLM con il comando di avvio fornito; Gemma 4 12B dichiara 256K con una finestra scorrevole di 1024 token all'interno di uno stack di attenzione ibrido. Esiste una valutazione pubblicata sul contesto lungo per Gemma; per Dory l'unica riga di contesto lungo è quella di NVIDIA stessa, misurata con chiavi di risposta corrette e un modello giudice più vecchio, cosa che la scheda dichiara.

• Comportamento di calcolo — questo è il vantaggio asimmetrico di Dory e non ha nulla a che fare con la qualità. G​emma 4 12B è un modello denso convenzionale: profondità fissa, costo fisso per token; per cambiare il conto, si scala l'hardware o si accorcia il contesto. La profondità di Dory è un parametro di runtime. Eseguitelo con un ciclo quando il vincolo è la latenza e con quattro quando lo è l'accuratezza, senza scaricare un secondo checkpoint. N​VIDIA fornisce anche una modalità di KV-caching all'ultimo ciclo pensata per mantenere l'impronta della cache all'incirca pari a quella di un singolo ciclo indipendentemente dal numero di cicli, il che — se regge — elimina la classica obiezione alle architetture ricorrenti. È l'affermazione nella scheda che merita più di ogni altra una verifica indipendente.

• Licenza — OpenMDW 1.1 per Dory, Apache 2.0 per G​emma 4 12B. Entrambe consentono l'uso commerciale. Se la tua revisione legale considera Apache 2.0 la strada di minor resistenza, G​emma parte con un vantaggio che non ha nulla a che fare con i pesi.

Eseguirli: uno è di routine, l'altro è una build

G​emma 4 12B è un download dalla struttura standard della famiglia L​lama. È in formato Transformers, gira sui motori che già hai, e le build quantizzate — le varianti QAT GGUF e w4a16 — sono pubbliche da poco dopo il modello stesso.

Dory 1.0 4B non è ancora pronto e la scheda lo dice chiaramente. Il supporto a vLLM è "in revisione" in una pull request aperta; finché non viene unita, installi vLLM da quel branch con il flag del kernel precompilato e poi passi gli override di loop-count e KV-cache al momento del serving. Il supporto a llama.cpp è in una seconda pull request aperta, e N​VIDIA fissa un commit specifico invece del HEAD in movimento, che è la scelta giusta per una configurazione di riferimento ma significa comunque compilare dai sorgenti. Non esiste alcun endpoint ospitato per Dory in nessun luogo che possiamo verificare — né da N​VIDIA né da chiunque altro — e i contatori di download su tutti e quattro i suoi repository erano ancora a zero quando questo è stato scritto. G​emma 4 12B, al contrario, è stato scaricato ben oltre un milione di volte nell'ultimo mese e ha un ecosistema di finetune e quantizzazioni costruito su di esso. Quel divario di maturità è, per la maggior parte dei team, più grande di qualsiasi delta di benchmark su entrambe le schede.

Le specifiche hardware sono scarse da entrambe le parti. Le uniche cifre di velocità Dory pubblicate da N​VIDIA sono accelerazioni di quantizzazione su una DGX Spark — 1,69× e 1,84× per MXFP8 rispetto a BF16 a seconda della combinazione di input/output, 2,17× e 2,44× per NVFP4 — non numeri di throughput. Per G​emma 4 12B, la domanda corrispondente, la VRAM a una data lunghezza di contesto, può trovare risposta in un anno di misurazioni della community piuttosto che nella scheda.

Dove entra in gioco un router, sinceramente

Nessuno di questi modelli è qualcosa che serviamo, e dirlo è più utile che lasciar intendere il contrario. N​VIDIA N​emotron Labs Dory 1.0 4B non è nel catalogo OrcaRouter e non ha alcun endpoint ospitato da nessuna parte; G​emma 4 12B nello specifico non è nemmeno nel catalogo, anche se i suoi fratelli maggiori google/gemma-4-26b-a4b-it e google/gemma-4-31b-it lo sono.

Quello che resta è la forma pratica della decisione. Se stai scegliendo tra un 4B che devi ospitare in autonomia e un 12B che puoi noleggiare, il lato self-hosted comporta una bolletta per le GPU e un carico operativo che il lato noleggiato non ha, e l'unico modo per quantificarlo onestamente è eseguire entrambi sul tuo set di attività. OrcaRouter è utile per la metà ospitata di quell'esperimento: una sola chiave API raggiunge i modelli Google open-weight che effettivamente mettiamo a disposizione, al prezzo di listino del provider con 0% di ricarico, così il confronto non richiede un secondo contratto né un secondo SDK. Il failover automatico copre la finestra in cui il tuo pool di GPU è saturo a metà benchmark, e il DSL di routing permette a una chiamata self-hosted e a una ospitata di stare dietro un unico endpoint, così cambiare lato è una modifica di configurazione anziché una riscrittura. Niente di tutto questo ti dice quale modello vince. Elimina la scusa per non scoprirlo.

Quindi quale

Se il tuo compito è solo testuale, solo in inglese e a contesto lungo, e soprattutto se è agentico — chiamate a strumenti, flussi di lavoro multi-step, output strutturato — Dory 1.0 4B è la scommessa più interessante e quella la cui architettura ti offre qualcosa che il 12B non può offrire: una manopola per la potenza di calcolo. Accetta la scommessa con gli occhi aperti sul divario di maturità, sulle due pull request non ancora unite, sull'assenza totale di valutazione indipendente e sul fatto che la sua stessa scheda lo colloca dietro ogni comparatore su GPQA e HLE.

Se il tuo compito implica un'immagine, un suono, una seconda lingua o una scadenza di produzione entro il prossimo mese, Gemma 4 12B è la risposta e il confronto non è mai stato equilibrato. È un modello più grande, più costoso e più capace, con un ecosistema alle spalle e nessuno step di build da affrontare prima.

La cosa da tenere d'occhio non è un numero di benchmark — è se le pull request di vLLM e llama.cpp verranno unite. Il giorno in cui Dory si caricherà da un binario rilasciato invece che da un branch, il lato self-hosting di questo confronto smetterà di essere un progetto e comincerà a essere una modifica di configurazione. Fino ad allora, il verdetto onesto è che uno di questi modelli è un prodotto e l'altro è un repository apparso dall'oggi al domani, e quale dei due vuoi dipende interamente dal fatto che tu stia rilasciando o testando.

Niente di tutto ciò è ipotetico: i fallimenti documentati dell'IA e gli incidenti degli agenti alla base di rilasci come questo sono raccolti in l'OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.