NVIDIA Nemotron Labs Dory 1.0 4B è approdato su Hugging Face con quattro checkpoint e senza alcun annuncio

N​VIDIA N​emotron Labs Dory 1.0 4B è su Hugging Face in questo momento, in quattro quantizzazioni, e N​VIDIA non ha detto una parola al riguardo. Il checkpoint nvidia/N​VIDIA-N​emotron-Labs-Dory1.0-4B-MXFP8 è stato pubblicato con una model card che contrassegna la build come "GA (10/16/2026)"; i suoi tre fratelli — N​VIDIA-N​emotron-Labs-Dory1.0-4B-BF16, N​VIDIA-N​emotron-Labs-Dory1.0-4B-NVFP4 e N​VIDIA-N​emotron-Labs-Dory1.0-4B-GGUF — sono stati pubblicati nella stessa finestra di 36 minuti a cavallo della mezzanotte UTC tra il 16 e il 17 ottobre 2026. Non c'è alcun post corrispondente sul blog per sviluppatori di N​VIDIA, nessuna voce sulla pagina di presentazione della ricerca di N​emotron e nessun riferimento a un modello chiamato Dory su nessuna delle due. La card stessa è insolitamente completa — una tabella completa di benchmark, istruzioni di serving per due engine, un checksum — ma l'impalcatura di marketing che la circonda, quella che di solito ti dice che un modello esiste, è del tutto assente.

Quindi vale la pena essere precisi su ciò che questo ti autorizza e non ti autorizza a dire. Ciò che si può sapere: i pesi esistono, sono scaricabili, la licenza è dichiarata, l'architettura è descritta con dettagli sufficienti per riprodurla, e il fornitore ha pubblicato i propri numeri insieme a una nota in cui afferma di averli misurati da sé. Ciò che non è ancora confermato: se questo sia l'inizio di una famiglia Nemotron Labs o un esperimento isolato, se stiano arrivando un paper o un post sul blog, e se i numeri reggano sotto l'harness di qualcun altro. NVIDIA non l'ha presentato come un lancio, e nemmeno questo pezzo lo fa. È una lettura di un repository apparso nel giro di una notte.

Cosa c'è effettivamente nel repository

Gli artefatti sono quattro checkpoint e una model card. La model card è il documento sostanziale, ed è la fonte di quasi tutto ciò che segue.

• Formati — BF16 (W16A16), MXFP8 (W8A16), NVFP4 (W4A16) e un export Q5_K_M GGUF per llama.cpp. Il checkpoint MXFP8 è oggetto di questo articolo solo perché è quello che porta l'id canonico del repository; i benchmark nella scheda sono stati misurati su BF16.

• Dimensioni e forma — 4B parametri totali, uno stack denso anziché una miscela di esperti, suddiviso in un blocco di input a 8 strati, un blocco ricorrente a 20 strati e un blocco di output a 8 strati.

• Contesto — fino a 256K token, con 262,144 posizioni validate in vLLM con il comando di avvio che NVIDIA fornisce con la scheda.

• Licenza — OpenMDW 1.1, una licenza per modelli permissiva e ridistribuibile, con il testo collegato dalla scheda. La scheda afferma chiaramente che il modello è "pronto per uso commerciale o non commerciale".

• Lingua — solo inglese, sebbene i dati di pre-addestramento coprano 43 linguaggi di programmazione.

• Budget di addestramento — 6 trilioni di token di pre-addestramento, di cui all'incirca i primi 4,5 trilioni sono stati eseguiti nativamente in NVFP4 prima che il resto passasse a BF16, seguiti da una fase di estensione del contesto di 300 miliardi di token. I dati coprono dal 2013 a dicembre 2025. Il post-addestramento è un fine-tuning supervisionato su un set curato da NVIDIA, poi apprendimento per rinforzo multi-ambiente con GRPO.

• Attività del repository — otto commit su `main` e due contributori al momento della scrittura, il più recente dei quali è una modifica al README. Il primo, "Upload Dory 4B MXFP8 checkpoint and tokenizer", ha poche ore. Questo non è un repository rimasto tranquillamente pubblico per mesi e appena notato; è uno che è stato popolato oggi.

Un dettaglio che la scheda azzecca e che la maggior parte delle schede non fa: elenca la dimensione esatta in byte e lo SHA-256 dell'esportazione GGUF, così puoi verificare ciò che hai scaricato. 3.673.288.864 byte, con l'hash stampato nelle istruzioni di avvio.

L'architettura è l'unico motivo per cui vale la pena interessarsene.

Tralasciando la tabella dei benchmark, il fatto interessante di N​VIDIA N​emotron Labs Dory 1.0 4B è che non è un modello fisso. È una rete looped, o latente-ricorrente: il blocco ricorrente a 20 livelli viene applicato ripetutamente tra i blocchi di input e output, e l'input viene reiniettato a ogni loop. Lo stesso checkpoint si comporta quindi in modo diverso a seconda di quanti loop richiedi, e questo lo scegli al momento del serving anziché dell'addestramento.

Ne derivano tre conseguenze, tutte dalla scheda del modello piuttosto che dai test di chiunque:

• Calcolo di inferenza elastico — un unico file di pesi serve diversi budget di calcolo. Numero di loop: 1 per la latenza, 2 come impostazione predefinita consigliata, 4 quando l'accuratezza su attività agentiche conta più dei token al secondo. Nessun riaddestramento, nessun secondo checkpoint da scaricare e mantenere sincronizzato.

• Efficienza dei token — NVIDIA sostiene che il calcolo extra per token vada nel ragionamento latente anziché in una catena di pensiero visibile più lunga, quindi conteggi di loop più elevati possono produrre meno token di output per la stessa attività. La scheda include un grafico del fattore dei token di output per sostenere questa tesi. Questa affermazione ha una conseguenza diretta sui costi, ed è per questo che vale la pena segnalarla anziché liquidarla.

• Looping a basso consumo di memoria — questo è quello che risponde all'obiezione più ovvia. Il looping standard mantiene una cache KV separata per ogni loop, quindi la memoria cresce a ogni passaggio aggiunto. Dory supporta una modalità di KV-caching dell'ultimo loop che mantiene un'unica cache per ogni strato di attenzione ricorrente e la sovrascrive a ogni passaggio, mantenendo l'occupazione all'incirca pari a quella di un singolo loop, indipendentemente da quanti loop si eseguano. NVIDIA afferma che la precisione con il caching dell'ultimo loop resta vicina a quella del caching per-loop, con lunghezze di output quasi invariate, e lo descrive come un proprio risultato sperimentale.

Lo stack di attenzione è ibrido: layer intercalati a finestra scorrevole e ad attenzione completa, lo stesso ampio schema su cui si è attestata la generazione 2026 di piccoli modelli a contesto lungo. Niente di tutto ciò è esotico di per sé. Ciò che è meno comune è rendere disponibile il numero di loop come parametro di deployment su un modello 4B con una finestra da 256K.

La tabella di benchmark, letta come tabella di fornitore

Ogni numero qui riportato è stato prodotto da N​VIDIA nell'ambito di quello che la scheda chiama "un harness coerente (NeMo Gym / Nemo Evaluator SDK)". Nessuna terza parte ne ha riprodotto nulla, il modello ha circa un giorno di vita, e i contatori dei download su tutti e quattro i repository segnano zero. Tratta i numeri come un'affermazione sulla direzione, non come un tabellone dei punteggi.

Il set di confronto scelto da N​VIDIA è di per sé rivelatore: Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B e Qwen3.6-35B-A3B. In particolare, i due comparatori di classe 4B provengono dalla precedente generazione di Q​wen, e ogni altro comparatore è sostanzialmente più grande. Leggi attraverso le tre impostazioni del ciclo:

• SWE-bench Verified — 50.3 a un ciclo, 59.5 a due, 61.8 a quattro, contro 54.7 per Qwen3.5-4B, 61.0 per Qwen3.5-9B, 57.40 per Gemma 4 26B A4B e 73.4 per Qwen3.6-35B-A3B.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 contro 15, 24, 35 e 43. Questa è la riga in cui il looping rende di più e in cui Dory è ancora la più indietro rispetto al resto del gruppo.

• τ³-bench (Bancario) — 11.6 / 12.89 / 14.69 contro 5.03 per Qwen3.5-4B, 7.22 per Qwen3.5-9B, 13.66 per Gemma 4 26B A4B e 9.54 per Qwen3.6-35B-A3B. Dory supera qui, con un ampio margine, i modelli Qwen 4B e 9B.

• GDPval-AA-V2 (Elo) — 815 / 946 / 967 contro 424, 546, 751,6 e 987. Il salto da un loop a due è di 131 punti Elo, che è il maggiore spostamento da un loop all'altro in tutta la tabella.

• GPQA Diamond, senza strumenti — 69.19 / 72.41 / 72.16 contro 77.71, 80.93, 80.43 e 85.35. Dory perde questa contro ogni comparatore, incluso il Qwen 4B.

• HLE, solo testo, senza strumenti — 8,25 / 10,89 / 10,43 contro 11,31, 15,43, 17,79 e 19,18. Stessa storia.

• IFBench — 74.29 / 77.94 / 79 contro 53.83, 59, 77.89 e 57.44. Il rispetto delle istruzioni è il risultato relativo più forte di Dory; a quattro loop supera di poco il G​emma 4 da 26B.

• AA-LCR — 63 / 71 / 73 rispetto a 64,7, 68,4, 64,6 e 68,5. Il recupero su contesto lungo migliora marcatamente con i loop e finisce per superare tutti e quattro i comparatori.

• AA-Omniscience (accuratezza) — 10,03 / 10,08 / 10,03 contro 15,02, 18,05, 21,13 e 19,95. Il looping non fa praticamente nulla per la conoscenza memorizzata, che è il risultato atteso e un utile controllo di sanità sul resto della tabella.

La forma del pattern è ciò che conta. Il looping offre i maggiori vantaggi nei compiti agentici e di uso degli strumenti, i minori nel richiamo enciclopedico, e il secondo loop vale molto più del terzo e del quarto ovunque. Ciò è coerente con la raccomandazione della scheda stessa di usare due loop come impostazione predefinita.

Quattro avvertenze che si trovano nelle note a piè di pagina della stessa N​VIDIA

È qui che la scheda è più onesta di molte altre, e dove un lettore che scorresse la tabella verrebbe tratto in inganno.

• I valori AA non sono valori di Artificial Analysis. Il confronto di NVIDIA con un indice di punteggio AA è esplicitamente etichettato come “stime interne calcolate nell'ambito di un sistema di valutazione coerente” che “possono discostarsi dai punteggi ufficiali di Artificial Analysis (AA)”. Si tratta di una misurazione interna a parità di condizioni, non di una classifica esterna.

• La colonna del contesto lungo usa una configurazione ibrida. Per AA-LCR la scheda dice che ha usato chiavi di risposta corrette da AA-LCR v1.1, ma ha mantenuto un modello giudice più vecchio anziché quello più nuovo. Mescolare un insieme di chiavi corrette con un giudice più vecchio rende quella colonna comparabile alle altre righe di NVIDIA e non necessariamente comparabile a quelle di chiunque altro.

• I conteggi delle ripetizioni sono i più disparati. SciCode viene eseguito otto volte, AA-LCR sedici, AA-Omniscience dieci, GDP.pdf cinque, mentre HLE, Terminal-Bench 4.0 e le varianti GDPval-AA vengono eseguiti una volta. Una singola esecuzione su un benchmark con una varianza significativa è una stima puntuale, non un punteggio.

• Una riga della tabella è contrassegnata con un simbolo di croce come dato riportato anziché misurato — il 73,4 di Qwen3.6-35B-A3B su SWE-bench Verified. Il che significa che il numero che sembra il più grande sul tabellone è quello che N​VIDIA non ha eseguito in prima persona.

Niente di tutto ciò rende la tabella sbagliata. La rende un'istantanea interna di un singolo laboratorio, e la lettura onesta è che Dory appare davvero competitivo con i modelli 4B e 9B della precedente generazione Q​wen nei compiti agentici, pur restando dietro ai modelli 26B e 35B accanto ai quali è collocato.

Cosa puoi eseguire oggi e cosa non puoi

Non esiste un endpoint ospitato per questo modello che possiamo verificare, né da NVIDIA né da chiunque altro. Dory è distribuito solo come pesi, e i due percorsi di servizio nella scheda richiedono entrambi di compilare a partire da una pull request non ancora unita:

• vLLM — il supporto è «in revisione» nella pull request 60149. Finché non arriva in una release, si installa vLLM da quel branch, poi si esegue il serving con override che impostano il conteggio dei loop e la modalità KV-cache. La scheda osserva che il flag di ambiente del kernel precompilato evita una build CUDA locale.

• llama.cpp — il supporto risiede nella pull request 30306, e la scheda fissa una revisione specifica anziché la head mobile della PR, che è l'istinto giusto per una configurazione di riferimento. Le istruzioni sono destinate a macOS ARM64 nativo su Apple Silicon, e il percorso GGUF prevede l'esportazione Q5_K_M alla dimensione in byte indicata sopra.

Niente nella scheda suggerisce che uno dei due progetti sia stato unito, e non c'è alcuna voce nelle note di rilascio di nessuno dei due motori che suggerisca il contrario. Se vuoi eseguire Dory questa settimana, stai facendo la build da una PR.

Note hardware che vale la pena conservare: N​VIDIA ha testato su H100, B200, B300 e DGX Spark, e gli unici numeri di velocità pubblicati sono accelerazioni di quantizzazione sullo Spark anziché valori di throughput. Su quel dispositivo MXFP8 mostra 1,69× e 1,84× rispetto a BF16 a seconda del mix di lunghezze input/output, e NVFP4 raggiunge 2,17× e 2,44×. Il campionamento consigliato è temperatura 1,0 con top-p 0,95, e il ragionamento è sempre attivo nel percorso vLLM.

Perché un rilascio silenzioso di 4B vale ancora il tuo pomeriggio

La cosa interessante di un modello che arriva senza un lancio è che la sua affermazione è verificabile in un modo in cui un'affermazione di lancio non lo è. Non c'è un keynote che rivendica una vittoria di categoria; c'è una card che afferma un meccanismo specifico e falsificabile — che un singolo checkpoint 4B scala la propria accuratezza con la potenza di calcolo in fase di inferenza. Puoi verificarlo su una singola GPU con il flag loop-count, e la risposta è visibile nella tua eval oppure no.

È anche la situazione per cui è costruito un livello di routing, e vale la pena essere precisi su ciò che facciamo qui invece di accennarvi vagamente. OrcaRouter non fornisce NVIDIA Nemotron Labs Dory 1.0 4B — il modello non è nel nostro catalogo e non esiste un endpoint hosted per esso in nessun luogo che possiamo confermare. Ciò che una singola chiave ti offre è l'altra metà del confronto: i modelli hosted con cui confronteresti un 4B self-hosted sono raggiungibili tramite un'unica API al prezzo di listino del provider con 0% di markup, quindi un esperimento self-hosted non ha bisogno di un secondo contratto o di un secondo SDK. Il failover automatico copre la finestra in cui il tuo pool di GPU è saturo, e il DSL di routing consente a una chiamata self-hosted di affiancarsi a quelle hosted dietro un unico endpoint. Se stai verificando se la profondità elastica vale la complessità operativa, almeno il gruppo di controllo è a una chiave di distanza.

Cosa trasformerebbe questo in una vera storia?

Tre cose, nessuna delle quali ancora presente.

Innanzitutto, un annuncio. La scheda è datata 16 ottobre e i repository sono stati popolati nel corso della notte; il feed per sviluppatori di NVIDIA ha pubblicato un post su Nemotron il 15 ottobre che riguardava un modello del tutto diverso. Un post sul blog, un paper o una pagina della famiglia Nemotron Labs potrebbero comparire in qualsiasi momento e probabilmente riporterebbero i dettagli di addestramento e il ruolo previsto del modello che la scheda lascia impliciti.

Secondo, supporto dei motori. Sia vLLM che llama.cpp sono bloccati su pull request non ancora unite. Il giorno in cui una delle due viene unita, "puoi eseguirlo" smette di significare "puoi compilarlo da un ramo".

Terzo, e il più prezioso, una valutazione indipendente. Le affermazioni che più meritano di essere riprodotte sono quelle che il fornitore ha evidenziato: la variazione di SWE-bench e Terminal-Bench in funzione del numero di cicli, e l'asserzione che la cache KV dell'ultimo ciclo preservi l'accuratezza. Entrambe sono verificabili con strumenti pubblicati, e nessuna delle due è stata testata da nessuno al di fuori di N​VIDIA.

Il riepilogo accurato di oggi è questo: pesi reali in quattro formati, una licenza permissiva, un'architettura davvero insolita, un percorso di serving che esiste solo sotto forma di due pull request aperte, e una scheda di benchmark che è l'harness di un solo laboratorio, con le avvertenze stampate nelle sue stesse note a piè di pagina. È il modello da 4B più interessante che NVIDIA abbia pubblicato quest'anno e l'azienda non ha ancora deciso di parlarne con nessuno.

Niente di tutto ciò è ipotetico: i fallimenti documentati dell'IA e gli incidenti degli agenti alla base di rilasci come questo sono raccolti in l'OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.