NVIDIA Nemotron Labs Dory 1.0 4B vs Qwen 3.8: il 4B open-weight contro la linea a tre livelli di Alibaba

Confrontare NVIDIA Nemotron Labs Dory 1.0 4B con "Qwen 3.8" non è un confronto — è un abbinamento improprio in un modo specifico e istruttivo. Qwen 3.8 non è un unico modello; sul versante dei pesi aperti è Qwen3.8-27B, un modello denso multimodale da 27B con licenza Apache 2.0 e una finestra da 256K, e più in alto ci sono Qwen3.8-Flash e Qwen3.8-Max, entrambi più grandi, entrambi serviti solo tramite l'API di Alibaba. Dory è un singolo checkpoint da 4B, solo testo e solo inglese, di NVIDIA, pubblicato su Hugging Face in quattro quantizzazioni con licenza OpenMDW 1.1, con la card che riporta "GA (10/16/2026)" e nessun annuncio a corredo. Quindi la vera domanda non è se un 4B possa battere un 27B. È se un 4B a profondità elastica che ospiti tu stesso sia un modo più economico per raggiungere il livello di attività che altrimenti prenderesti a noleggio dalla linea Qwen3.8 — e i due fatti più rilevanti ai fini della decisione sono che Qwen3.8-27B è open-weight, quindi entrambi i modelli girano sul tuo hardware, e che la card di Dory non riporta alcun benchmark contro nessun modello Qwen3.8.

Che cosa viene effettivamente confrontato?

Inizia dal lato Q​wen, perché «Qwen 3.8» accorpa tre diverse proposizioni.

Qwen3.8-27B è un modello denso visione-linguaggio a pesi aperti di Alibaba, Apache 2.0, 27 miliardi di parametri, 64 strati, dimensione nascosta 5.120, con un contesto nativo di 262.144 token che la scheda indica come estensibile fino a un milione. Accetta testo, immagini e video e restituisce testo, utilizza un'architettura ibrida Gated DeltaNet e Gated Attention su 16 blocchi ripetuti ed è distribuito in formato Transformers con supporto per vLLM, SGLang e TokenSpeed. Riporta 90,3 su LiveCodeBench v6, 89,2 su GPQA Diamond, 79,5 su IFBench e 73,0 su Terminal-Bench 2.1, tra una lunga lista di risultati agentici e di visione. È pubblico da metà agosto 2026 ed è stato scaricato diversi milioni di volte.

Qwen3.8-Flash e Qwen3.8-Max sono i livelli ospitati. Flash è il modello multimodale ottimizzato per i costi, con un contesto di un milione di token; Max è l'ammiraglia di Alibaba, anch'essa da un milione di token, posizionata contro i modelli proprietari più forti. Nessuno dei due ha pesi aperti. Vi si accede tramite un'API.

N​VIDIA N​emotron Labs Dory 1.0 4B è il 4B. Dense, looped, latent-recurrent — un blocco di input da 8 layer, un blocco ricorrente da 20 layer applicato un numero variabile di volte, un blocco di output da 8 layer — con attenzione ibrida interleaved sliding-window e full attention. Testo in input, testo in output, solo inglese, contesto da 256K. Pre-addestrato su 6 trilioni di token, i primi ~4,5 trilioni nativamente in NVFP4, più un'estensione del contesto di 300 miliardi di token, poi SFT e GRPO multi-ambiente. Non esiste un endpoint ospitato per questo modello che possiamo verificare.

Un punto da chiarire bene, perché trae in inganno molte persone: N​VIDIA distribuisce Dory in BF16, MXFP8, NVFP4 e Q5_K_M GGUF. L'ID canonico del repository è quello MXFP8, ma i benchmark nella scheda sono stati misurati su BF16. MXFP8 è una quantizzazione degli stessi pesi, non un modello diverso.

Il contrasto delle specifiche

• Parametri — Dory 1.0 4B è un modello dense da 4B, con un blocco ricorrente applicato ripetutamente, così che il calcolo effettivo per token a quattro cicli supera il numero di parametri. Qwen3.8-27B è un modello dense da 27B con una torre di visione. Non sono nella stessa categoria di peso e solo uno dei due può essere eseguito in un deployment con memoria ridotta.

• Modalità — Qwen3.8-27B accetta immagini e video oltre al testo. Dory accetta testo. Qualsiasi carico di lavoro che contenga un'immagine finisce qui.

• Contesto — entrambi pubblicizzano 256K. La scheda di Qwen3.8-27B indica 262.144 posizioni native estendibili a circa un milione; quella di Dory's indica fino a 256K con 262.144 convalidate in vLLM con il comando di avvio fornito. Sia Qwen3.8-Flash che Max raggiungono direttamente un milione di token.

• Licenza — Apache 2.0 per Qwen3.8-27B, OpenMDW 1.1 per Dory. Entrambe compatibili con l'uso commerciale; Apache 2.0 è il testo più noto.

• Lingue — Qwen3.8-27B è multilingue per origine; Dory è solo in inglese, con 43 linguaggi di programmazione nella sua miscela di pre-addestramento.

• Comportamento di calcolo — questa è l'unica riga in cui Dory ha qualcosa che Qwen3.8-27B strutturalmente non può offrire. La profondità di Dory è un parametro di serving: un ciclo per la latenza, due come default consigliato da NVIDIA, quattro quando l'accuratezza agentica conta di più, il tutto da un unico checkpoint, con una modalità di KV-caching all'ultimo ciclo pensata per mantenere la memoria della cache all'incirca della dimensione di un ciclo indipendentemente dal numero di cicli. Qwen3.8-27B ha profondità fissa; le sue leve sono la quantizzazione e l'hardware.

• Formati — Dory offre quattro quantizzazioni, tra cui un GGUF per llama.cpp. Qwen3.8-27B ha un repository FP8 separato e un vastissimo ecosistema derivato di quantizzazioni e modelli fine-tuned, ed è questo che ti fanno ottenere diversi milioni di download.

La domanda sul benchmark che la tabella di N​VIDIA stessa evita

Ecco il dettaglio scomodo. La tabella di benchmark di NVIDIA per Dory lo confronta con Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B e Qwen3.6-35B-A3B. Usa le due precedenti generazioni di Qwen e non arriva mai a Qwen3.8. È una scelta difendibile per un 4B — Qwen3.8-27B è quasi sette volte più grande — ma significa che il produttore non ha alcun confronto testa a testa pubblicato con la generazione attuale di Qwen, in nessuna delle due direzioni. La scheda di Qwen3.8-27B di Alibaba, dal canto suo, riporta benchmark contro la frontiera proprietaria, non contro un 4B.

Ciò che la scheda di Dory pubblica davvero, rispetto ai suoi comparatori più vecchi, è onesto su dove il looping conviene. Leggi trasversalmente le sue tre impostazioni di loop rispetto a Qwen3.5-4B e Qwen3.5-9B:

• SWE-bench Verified — 50.3 / 59.5 / 61.8 rispetto a 54.7 e 61.0. A quattro cicli Dory batte nominalmente il 9B Q​wen su questa riga.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 contro 15 e 24. Perde contro entrambi, incluso il 4B.

• τ³-bench (Bancario) — 11,6 / 12,89 / 14,69 contro 5,03 e 7,22. Dory più che raddoppia il Qwen 4B e raddoppia all’incirca quello da 9B.

• GPQA Diamond, senza strumenti — 69,19 / 72,41 / 72,16 contro 77,71 e 80,93. È inferiore a entrambi.

• IFBench — 74.29 / 77.94 / 79 contro 53.83 e 59. Un grande successo nel seguire le istruzioni.

• AA-LCR — 63 / 71 / 73 rispetto a 64,7 e 68,4. Il recupero su contesto lungo migliora nettamente con i loop e finisce in vantaggio.

• AA-Omniscience — 10,03 / 10,08 / 10,03 contro 15,02 e 18,05. La conoscenza memorizzata cambia appena con il conteggio dei loop, il che è la verifica di buon senso che il resto della tabella supera.

Ognuno di quei numeri è di N​VIDIA, misurato sull'harness di N​VIDIA, con conteggi di ripetizione dichiarati — SciCode otto esecuzioni, AA-LCR sedici, diversi benchmark esattamente una volta — e la scheda etichetta i suoi punteggi in stile Artificial-Analysis come "stime interne" che possono discostarsi da quelli ufficiali. Nulla di tutto ciò è riprodotto.

Ora metti la scheda di Qwen3.8-27B accanto ad essa. I suoi 89,2 riportati su GPQA Diamond, 79,5 su IFBench e 73,0 su Terminal-Bench 2.1 sono tutti al di sopra dei migliori valori di Dory sugli stessi benchmark, che è esattamente ciò che ti aspetteresti da un modello sette volte più grande con una pipeline di addestramento più recente di due generazioni. Non esiste scenario in cui un 4B batta un 27B ben realizzato su un benchmark di conoscenza o ragionamento, e Dory non lo sostiene. Ciò che Dory sostiene è una cosa diversa: che a 4B raggiunge un comportamento agentico all'incirca di classe 9B, e che puoi scegliere quanta potenza di calcolo spendere su quella scala.

Deployment: il divario non è vicino, e non è una questione di qualità

Qwen3.8-27B è un normale rilascio open-weight. Formato Transformers, supporto dichiarato per vLLM, SGLang e TokenSpeed, un fratello FP8, e un ecosistema che da agosto ha prodotto ben oltre mille quantizzazioni e centinaia di finetune. Se il tuo stack esegue modelli open-weight moderni, esegue anche questo, e l'unico vero vincolo è la memoria — 27B dense a BF16 non è un modello per macchine piccole, ma le varianti quantizzate esistono proprio per questo.

Dory è l'opposto. Il supporto a vLLM è in revisione in una pull request aperta; finché non viene unita, NVIDIA ti dice di installare vLLM da quel branch con il flag del kernel precompilato e poi avviarlo con override che configurano il conteggio dei cicli ricorrenti e la modalità della KV-cache. Il supporto a llama.cpp è in una seconda pull request aperta con un commit fissato e istruzioni di build per ARM64 macOS. Non esiste un endpoint ospitato per Dory in nessun luogo che possiamo verificare, e i contatori dei download su tutti e quattro i repository erano a zero quando questo è stato scritto. Le cifre di velocità pubblicate si limitano a speedup di quantizzazione su una DGX Spark — 1,69× e 1,84× per MXFP8 rispetto a BF16, 2,17× e 2,44× per NVFP4, a seconda della combinazione di lunghezza input/output — non di throughput.

Rispetto a ciò, l'affermazione sulla memoria nella scheda di Dory è l'unico elemento ingegneristico che potrebbe giustificare l'inconveniente. Il looping ricorrente standard memorizza una cache KV separata per ogni loop, quindi la memoria cresce a ogni passaggio. La modalità di KV-caching all'ultimo loop di Dory mantiene una sola cache per ogni layer di attenzione ricorrente e la sovrascrive a ogni passaggio, mantenendo l'occupazione all'incirca pari alla dimensione di un solo loop per qualsiasi numero di loop, con un'accuratezza che, secondo NVIDIA, resta vicina a quella della modalità per-loop. Se ciò regge sotto la misurazione di qualcun altro, un 4B con una finestra da 256K e quattro loop diventa praticabile su hardware che altrimenti non potrebbe permetterselo. Nessuno al di fuori di NVIDIA l'ha verificato.

Dove si colloca effettivamente OrcaRouter in questo confronto

Questo è il raro confronto in cui possiamo essere specifici, perché qui le due parti non sono sullo stesso piano. Il versante Qwen è nel nostro catalogo: qwen/qwen3.8-27b è self-hosted sull'infrastruttura di OrcaRouter, e qwen/qwen3.8-flash e qwen/qwen3.8-max sono raggiungibili come endpoint ospitati, tutto tramite un'unica chiave API al prezzo di listino del provider con markup 0%. Il versante NVIDIA no — NVIDIA Nemotron Labs Dory 1.0 4B non è nel catalogo e non ha alcun endpoint ospitato in nessun luogo che possiamo confermare.

Quell'asimmetria è davvero utile anziché scomoda. L'argomento a favore di un piccolo modello self-hosted è un argomento di costo, e un argomento di costo ha bisogno del prezzo di noleggio contro cui sta argomentando. I tre livelli di Qwen3.8 hanno prezzi molto diversi — 27B a $0,33 per milione di token in input e $2,40 per milione in output, Flash a $0,15 e $0,47, Max a $2,00 e $6,00 — quindi la versione onesta di «un 4B può sostituire questo?» ha tre risposte diverse a seconda del livello che stai effettivamente usando oggi. Una singola chiave OrcaRouter raggiunge tutti e tre, quindi dare un prezzo a quella domanda non richiede tre account. Poiché passiamo il prezzo di listino del provider senza alcun ricarico, un cambiamento di prezzo di Qwen arriva qui lo stesso giorno. E quando scegli davvero un livello, il failover automatico tra provider e il DSL di routing — che ti consente di comporre modelli dietro una singola chiamata — fanno sì che il passaggio da un Qwen ospitato a un Dory self-hosted, o viceversa, sia un cambio di configurazione in un unico punto di chiamata anziché un refactoring. Non forniamo Dory; siamo il modo economico per misurare ciò che andrebbe a sostituire.

Il verdetto

Se il tuo carico di lavoro è multimodale, multilingue o ad alta intensità di conoscenza — qualsiasi cosa in cui il modello debba sapere le cose anziché farle — Qwen3.8-27B è la risposta open-weight e il confronto non è competitivo. È sette volte più grande, due generazioni più recente, sostenuto da un ampio ecosistema di derivati, funziona su motori che lo supportano già, e la sua stessa scheda dichiara numeri a cui Dory non si avvicina su GPQA o sui benchmark per le istruzioni. Noleggia invece Flash o Max se preferisci non ospitare affatto un 27B.

Dory 1.0 4B è una scommessa su un asse diverso. Vale l'attrito di una build da un branch solo se per te sono vere tre cose: il compito è solo testuale e solo in inglese, è agentico anziché guidato dalla conoscenza, e useresti davvero una manopola del compute — eseguendo un loop sotto carico e quattro quando conta l'accuratezza, da un unico checkpoint, senza un secondo download. La sua scheda sostiene che quella scommessa paga su τ³-Bench e sul seguire le istruzioni a 4B, e divulga abbastanza su come sono stati prodotti quei numeri da permetterti di ridimensionarli adeguatamente.

A risolvere la questione sarebbe il test che nessuno ha eseguito: Dory 1.0 4B contro Qwen3.8-27B su un harness condiviso, alla stessa quantizzazione, su un set di attività agentiche. La tabella di N​VIDIA salta completamente l'attuale generazione Q​wen e quella di A​libaba non prende in considerazione una classe di peso inferiore. Finché qualcuno non pubblica quel confronto, la posizione accurata è che uno di questi modelli è un 27B comprovato, supportato e ampiamente distribuito e l'altro è un repository 4B apparso dall'oggi al domani con un'idea interessante dentro — e l'unica persona che può dire se l'idea meriti di essere realizzata sei tu, sul tuo set di attività.

Niente di tutto ciò è ipotetico: i fallimenti documentati dell'IA e gli incidenti degli agenti alla base di rilasci come questo sono raccolti in l'OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.