
Nemotron-Labs-Sigma-distill-8B-nfe4 è arrivato senza alcun annuncio e con cinque download
- GoogleNUOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1M di token · 90 tok/s
- AnthropicNUOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1M di token · 97 tok/s
- orcaNUOVOOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNUOVOOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1M di token · 88 tok/s
- OrcaNUOVOOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1M di token · 133 tok/s
- OrcaNUOVOOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 per 1M di token · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1M di token · 127 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1M di token · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M di token · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M di token · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligenza
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1M di token · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligenza
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1M di token · 146 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligenza
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligenza
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 per 1M di token · 124 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Intelligenza
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Intelligenza
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 per 1M di token · 218 tok/s
Hugging Face ha conteggiato cinque download di nvidia/Nemotron-Labs-Sigma-distill-8B-nfe4 negli ultimi trenta giorni, e zero like, quando questo articolo è stato scritto, il 17 novembre 2026. È tutta l'accoglienza ricevuta finora da un modello linguistico da 8 miliardi di parametri pubblicato da NVIDIA sei giorni prima. Non c'era alcun post sul blog, nessuna scheda su build.nvidia.com, nessun thread di lancio, nessuna tabella di benchmark in un comunicato stampa. La card del checkpoint stesso data il rilascio 11/12/2026; il primo commit del repository è del 9 novembre alle 05:47 UTC, e l'ultima modifica è del 16 novembre, che ha riscritto la conversione per preservare i tensori di geometria fp32. Tutto quanto segue è tratto da quel repository, dai suoi file di configurazione e dal rapporto tecnico che cita, e le parti non confermate sono etichettate come tali anziché essere riempite.
Il repository è l'unica fonte primaria, ed è insolitamente esplicito.
La maggior parte dei rilasci silenziosi lascia una scheda segnaposto. Questo no. Include un file di provenienza, un manifest di integrità del checkpoint con un SHA-256, un hash di integrità per il tokenizer, quattro sottoschede Model Card++ e una configurazione di generazione che fissa il sampler. Quel livello di registrazione è ciò che ottieni quando un modello è passato attraverso un processo di rilascio interno e poi semplicemente non è stato annunciato: gli artefatti che un post di lancio riassumerebbe sono tutti presenti, meno il post.
Il paper che ne sta alla base è reale e datato: arXiv:2610.02665, Large Language Continuous Diffusion Models, un paper NVIDIA con diciassette autori la cui v2 è arrivata il 12 novembre, lo stesso giorno in cui la card afferma che sono arrivati i pesi. Il paper descrive Nemotron-Labs-Sigma come la prima famiglia di modelli linguistici di diffusione continua su larga scala, da 3B e 8B. La sezione di valutazione della card attribuisce i suoi numeri alle "statistiche verificate su dieci seed e sei task del passaggio in rilascio limitato del 10 novembre" — una frase che ti dice che il file stava circolando privatamente per almeno due giorni prima che i repository pubblici venissero attivati.

Che cosa c'è effettivamente nel checkpoint
Togli la prosa e la scheda tecnica è breve. Ogni riga qui sotto proviene da config.json, generation_config.json o dalla card:
• Backbone — un transformer solo decoder in stile Ministral: 34 layer, dimensione nascosta 4.096, FFN 14.336, 32 teste query e 8 teste chiave-valore con dimensione della testa 128, SwiGLU, RoPE con un blocco di scaling YaRN nella configurazione.
• Testa di generazione — una testa di diffusione a embedding di token continuo a 16 dimensioni, con la testa di lettura autoregressiva ausiliaria mantenuta nel checkpoint anziché potata.
• Conteggio dei parametri — 8,0B secondo la denominazione della scheda, 9,03B secondo il censimento dei safetensors (9.026.818.048 tensori BF16 più 2.097.186 F32), 18,06 GB distribuiti su quattro shard. La differenza tra i due numeri è la testa ausiliaria.
• Contratto di decodifica — blocchi da 32 token, esattamente 4 valutazioni della funzione di denoising più un readout, quindi 5 chiamate al denoiser per blocco, ovvero 6,4 token generati per forward pass.
• Campionatore — il percorso nativo fresh_x0 con self-conditioning mantenuto tra gli step, guidance senza classificatore fissata a 1, temperatura dello score fissata a 1.
• Contesto — 4.096 token per il prompt più la generazione. Solo inglese. Nessun arresto tramite token-ID EOS; ci si arresta in corrispondenza di stringhe o di un budget di token.
• Runtime — PyTorch 2.4 o successivo, Transformers 4.55 o successivo, trust_remote_code, una GPU CUDA in bfloat16. La CPU non è esplicitamente supportata, e la scheda ne indica il motivo: il sampler è numericamente degradato su CPU e produce output inutilizzabile.
• Licenza — la NVIDIA Nemotron Open Model License, che secondo la scheda consente l'uso commerciale e non commerciale. La scheda afferma inoltre, nella sezione relativa ai casi d'uso, che il modello funziona offline sul proprio hardware e che NVIDIA non ospita alcun servizio.
Quell'ultima riga è importante per chiunque abbia dato per scontato che esista da qualche parte un endpoint Sigma. Non è così. Non esiste alcuna voce Nemotron-Labs-Sigma su build.nvidia.com, e il modello è assente dal catalogo OrcaRouter insieme al resto della linea Nemotron — quindi oggi non c'è nulla da chiamare, solo qualcosa da scaricare.
Quattro checkpoint, quattro modelli diversi
Il nome fa sembrare le varianti un unico modello con quattro impostazioni. Non lo sono: ogni valore NFE è uno studente distillato separatamente, e la scheda è chiara sul fatto che il numero di passi è incorporato. «Questa variante è addestrata solo per NFE=4, e il codice di inferenza incluso intenzionalmente non espone un override arbitrario del numero di passi» — perché altri conteggi di passi valuterebbero endpoint di fase su cui lo studente non è mai stato addestrato. Quindi non si regola nfe4 a due passi in inferenza; si scarica nfe2.
Le medie pubblicate sui sei task, tutte su dieci seed con due errori standard, rendono per la prima volta leggibile il trade-off in questa famiglia:
• NFE 2 — GSM8K 80.17, MATH 55.72, HumanEval 48.17, MBPP 37.52; media sulle sei attività 53.02. 3 chiamate al denoiser per blocco, 10.7 token per chiamata.
• NFE 4 — GSM8K 86,86, MATH 61,52, HumanEval 60,61, MBPP 57,50; media delle sei attività 66,36. 5 chiamate per blocco, 6,4 token per chiamata.
• NFE 8 — GSM8K 88,44, MATH 64,40, HumanEval 65,18, MBPP 62,60; media sulle sei attività 70,34. 9 chiamate per blocco, 3,6 token per chiamata.
NFE 16 — GSM8K 89,61, HumanEval 67,68, MBPP 66,20, media delle tre attività 74,50. 17 chiamate per blocco, 1,9 token per chiamata. E un'avvertenza che gli altri tre non riportano: questo checkpoint è contrassegnato come pending_ten_seed_six_task_validation, le sue cifre sono un'unica esecuzione con seed 42 su tre attività, e la scheda dice di considerarle provvisorie e non direttamente confrontabili.
La forma di quella scala è la parte interessante. Raddoppiare i passi da 2 a 4 vale 13,3 punti di media su sei attività. Raddoppiare di nuovo a 8 vale 4,0. Passare a 16 vale altri ~4 sulle tre attività eseguite — da una valutazione diversa e più debole. In altre parole, la curva di distillazione si appiattisce drasticamente proprio dove il modello diventa competitivo, e il checkpoint nfe4 si colloca appena oltre il ginocchio.

Da dove vengono i numeri e dove si fermano
Ogni dato riportato sopra è di NVIDIA, prodotto da NVIDIA, sul harness di valutazione proprietario di NVIDIA, e riportato con un numero di seed che lo fa sembrare più indipendente di quanto sia. Dieci seed con due errori standard sono un protocollo serio — indica che il punteggio nfe4 HumanEval di 60.61 ha un intervallo di ±1.43, abbastanza ampio da non dover considerare reale un divario di due punti rispetto a qualsiasi cosa. Ma dieci seed dello stesso harness non equivalgono a dieci laboratori.
Cosa non esiste al 17 novembre: una pagina di Artificial Analysis per qualsiasi modello Sigma, qualsiasi voce in un catalogo pubblico dei prezzi dei modelli, qualsiasi supporto vLLM o SGLang e qualsiasi riproduzione di terze parti. Il controllo è rapido e il risultato è vuoto. Il registro dei modelli di vLLM su main non contiene l'architettura nemotron_labs_sigma; le pull request di SGLang che menzionano Nemotron diffusion riguardano la precedente linea Nemotron-Labs-Diffusion-8B e sono ancora aperte. Transformers non ha un modulo nativo nemotron_labs_sigma, motivo per cui la scheda indica di caricare con trust_remote_code e di distribuire il file di modellazione da 40 KB del repository insieme ai pesi.
Quindi lo stato onesto è: un checkpoint rilasciato con un protocollo di valutazione pubblicato e zero verifiche esterne. Questo è lo stato normale per un modello linguistico diffusionale nel novembre 2026, e non è una critica al modello — è una descrizione di quanto della scheda puoi usare come base per pianificare.
Eseguirlo è uno script Python, non uno stack di serving
Il quickstart della card è di undici righe: carica tokenizer e modello con codice remoto, esegue il cast a bfloat16, chiama generate con un numero massimo di token e stringhe di stop opzionali, e rilegge il conteggio NFE riportato dal modello. In questo repository non c'è alcun template di chat, nessun system prompt, nessuna chiamata agli strumenti, nessuna modalità JSON — la card dice chiaramente che si tratta di prompting in stile benchmark e che il modello è lo studente distillato di un checkpoint di base, non un assistente. Se desideri una conversazione, la collection include una variante instruct del parent con 8.192 token di contesto.
Due dettagli operativi colpiranno chiunque legga di fretta. Primo, l'arresto: non esiste uno stop EOS basato sull'ID del token, quindi una richiesta che non produce mai la stringa di stop raggiunge il budget di token, e il budget è condiviso con il prompt all'interno di una finestra di 4.096 token. Secondo, la memoria: 18 GB di pesi bfloat16 prima di qualsiasi cache KV, su un modello il cui unico percorso supportato è il codice eager di PyTorch proveniente dal repository stesso — non c'è paged attention, né continuous batching, né build quantizzata nella raccolta. Una singola richiesta su una singola GPU è la configurazione supportata oggi.
Il throughput è il dato che le persone vorranno, e la scheda non lo fornisce per questo checkpoint. La scheda del modello padre riporta circa 120–140 token al secondo per 256 token generati su una singola H100 usando il campionatore DDPM a 32 passi per blocco di 64 token. Il modello distillato nfe4 effettua 5 chiamate per 32 token invece di 33 chiamate per 64, il che, in base al conteggio delle chiamate, corrisponde a poco più di quattro volte meno passaggi in avanti per token — ma si tratta di aritmetica sui conteggi dei passi, non di una misurazione di questo checkpoint, e la scheda non pubblica alcun valore di token al secondo per esso.
Cosa non è confermato
Tre cose che un post di lancio avrebbe chiarito, e che questa versione non fa:
• Se NVIDIA intenda questo come un prodotto o come un artefatto di ricerca. La licenza consente l'uso commerciale e la scheda è scritta in linguaggio da prodotto, ma non esiste alcun endpoint ospitato, alcuna dichiarazione di supporto e alcuna menzione in qualsiasi post del blog NVIDIA fino al 16 novembre incluso.
• Quanto vale l'insegnante. La scheda dice che lo studente è stato distillato da un insegnante "{{1}}MS-SUSReg-8B{{/1}}" della stessa famiglia architetturale, e il file di provenienza nomina la run {{2}}8b_ms_susreg_n4_20261109{{/2}} allo step 1200 dello studente. La base rilasciata {{3}}Nemotron-Labs-Sigma-8B{{/3}} è descritta come appartenente alla stessa linea — ma la scheda della base non pubblica alcun numero, solo un riferimento all'articolo, quindi la perdita di distillazione non può essere ricavata confrontando le due schede affiancate.

• Se il checkpoint nfe16 sia il migliore della famiglia o un artefatto di una valutazione non completata. I suoi numeri sono i più alti sulla scheda e i meno affidabili, e la scheda stessa lo ammette, il che è più candore di quanto riescano a esprimere la maggior parte delle note di rilascio.
Perché il rilascio in sordina è la notizia
NVIDIA ha rilasciato molto questo autunno — Bolt, Super VL, Transcribe, la linea Dory, tutti con post sul blog e pagine su build.nvidia.com. Sigma arriva senza nulla di tutto ciò, dalla stessa organizzazione, con un paper, una licenza, quattro sottoschede Model Card++ e un contatore di cinque download. L’interpretazione più probabile è che si tratti di un rilascio di ricerca deliberatamente tenuto fuori dalla superficie di prodotto: l’uso previsto indicato nella scheda è «ricerca sulla generazione sensibile alla latenza, studi di decodifica speculativa e parallela», che è il linguaggio di un artefatto da laboratorio.
Per un lettore che sta decidendo se la cosa lo riguardi, la domanda pratica non è se il modello sia buono in astratto — è se un LM a diffusione continua con 4-NFE, a contesto 4K e senza serving stack, batte il modello autoregressivo già presente nella vostra pipeline. Per rispondere bisogna eseguirlo, e l'aritmetica che lo rende degno di un'ora di GPU è semplice: 6,4 token per forward pass, contro uno per un decoder standard. Se questo sopravviva al contatto con il vostro carico di lavoro è esattamente ciò che il benchmark indipendente mancante vi avrebbe detto.
OrcaRouter non serve questo checkpoint, e non apparirà dietro un prezzo per token finché qualcuno non costruirà un percorso di serving per un'architettura a diffusione a blocchi con un numero fisso di passaggi — il modello di costo non si adatta ai token di input e output come fa un'API autoregressiva. Ciò che è disponibile su OrcaRouter è l'insieme di confronto: oltre 200 modelli autoregressivi dietro un'unica chiave al prezzo di listino del provider senza ricarico, così la domanda su Sigma può essere affrontata rispetto a una baseline reale anziché rispetto a una scheda. Instradare entrambi attraverso un unico endpoint è anche il modo più economico per tenere l'esperimento fuori dal tuo percorso di produzione mentre decidi.
