
Nemotron-Labs-Sigma-distill-8B-nfe4 landade utan tillkännagivande och fem nedladdningar
- GoogleNYGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1M tokens · 90 tok/s
- AnthropicNYAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1M tokens · 97 tok/s
- orcaNYOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNYOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1M tokens · 88 tok/s
- OrcaNYOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1M tokens · 133 tok/s
- OrcaNYOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 per 1M tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1M tokens · 127 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1M tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligens
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1M tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligens
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1M tokens · 146 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligens
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligens
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 per 1M tokens · 124 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Intelligens
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Intelligens
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 per 1M tokens · 218 tok/s
Hugging Face räknade fem nedladdningar av nvidia/Nemotron-Labs-Sigma-distill-8B-nfe4 under de senaste trettio dagarna, och noll gilla-markeringar, när den här texten skrevs den 17 november 2026. Det är hela mottagandet hittills för en språkmodell med 8 miljarder parametrar som NVIDIA publicerade sex dagar tidigare. Det fanns inget blogginlägg, ingen listning på build.nvidia.com, ingen lanseringstråd, ingen benchmarktabell i ett pressmeddelande. Checkpointens eget modellkort daterar släppet till 11/12/2026; repots första commit är den 9 november kl. 05:47 UTC, och den sista ändringen i det gjordes den 16 november, vilken skrev om konverteringen för att bevara fp32-geometritensorer. Allt nedan är utläst ur det repot, dess konfigurationsfiler och den tekniska rapport som det hänvisar till, och de delar som inte är bekräftade är märkta som sådana i stället för att fyllas i.
Repositoriet är den enda primärkällan, och det är ovanligt explicit
De flesta tysta releaser lämnar ett stub-kort. Den här gör det inte. Den levererar en proveniensfil, ett integritetsmanifest för checkpointen med en SHA-256, en integritetshash för tokenizern, fyra Model Card++-underkort och en generationskonfiguration som låser samplern. Den nivån av bokföring är vad man får när en modell har gått igenom en intern releaseprocess och sedan helt enkelt inte har annonserats — de artefakter som ett lanseringsinlägg skulle sammanfatta finns alla där, minus inlägget.
Artikeln bakom det är verklig och har ett datum: arXiv:2610.02665, Stora språkliga kontinuerliga diffusionsmodeller, en NVIDIA-artikel med sjutton författare vars v2 kom den 12 november, samma dag som kortet säger att vikterna kom. Artikeln beskriver Nemotron-Labs-Sigma som den första familjen storskaliga kontinuerliga diffusionsspråkmodeller på 3B och 8B. Kortets utvärderingsavsnitt tillskriver sina siffror "den verifierade statistiken över tio seeds och sex uppgifter från överlämningen vid den begränsade utgivningen den 10 november" — en mening som säger att filen cirkulerade privat i minst två dagar innan de offentliga repona aktiverades.

Vad finns det egentligen i checkpointen?
Tar man bort prosan är databladet kort. Varje rad nedan kommer från config.json, generation_config.json eller kortet:
• Backbone – en Ministral-liknande decoder-only-transformer: 34 lager, dold storlek 4 096, FFN 14 336, 32 query-huvuden och 8 key-value-huvuden med huvuddimension 128, SwiGLU, RoPE med ett YaRN-skalningsblock i konfigurationen.
• Genereringshuvud — ett 16-dimensionellt kontinuerligt diffusionhuvud för tokeninbäddning, där det extra autoregressiva utläsningshuvudet behålls i checkpointen i stället för att beskärs.
• Parameterantal — 8,0B enligt kortets namngivning, 9,03B enligt safetensors-inventeringen (9 026 818 048 BF16-tensorer plus 2 097 186 F32), 18,06 GB fördelat över fyra shardar. Skillnaden mellan de två siffrorna utgörs av hjälphuvudet.
• Avkodningskontrakt — block om 32 token, exakt 4 utvärderingar av avbrusningsfunktionen plus en utläsning, alltså 5 anrop till avbrusaren per block, vilket ger 6,4 genererade token per framåtpassning.
• Sampler — den inbyggda fresh_x0-vägen med självkonditionering som bärs mellan stegen, classifier-free guidance låst till 1, score-temperatur låst till 1.
• Kontext — 4 096 tokens för prompt plus generering. Endast engelska. Inget token-ID-EOS-stopp; du stoppar vid strängar eller en tokenbudget.
• Körmiljö — PyTorch 2.4 eller nyare, Transformers 4.55 eller nyare, trust_remote_code, ett CUDA-grafikkort i bfloat16. CPU stöds uttryckligen inte, och kortet anger orsaken: samplern är numeriskt försämrad på CPU och ger oanvändbar utdata.
• Licens — NVIDIA Nemotron Open Model License, som enligt modellkortet tillåter kommersiell och icke-kommersiell användning. Modellkortet anger också, i avsnittet om användningsfall, att modellen körs offline på din hårdvara och att NVIDIA inte tillhandahåller någon tjänst.
Den sista raden spelar roll för alla som antog att det finns en Sigma-slutpunkt någonstans. Det gör det inte. Det finns ingen Nemotron-Labs-Sigma-post på build.nvidia.com, och modellen saknas i OrcaRouter-katalogen tillsammans med resten av Nemotron-serien — så det finns inget att anropa i dag, bara något att ladda ned.
Fyra checkpoints, fyra olika modeller
Namngivningen får varianterna att se ut som en modell med fyra inställningar. Det är de inte: varje NFE-värde är en separat destillerad student, och modellkortet säger rakt ut att antalet steg är inbyggt. "Den här varianten är endast tränad för NFE=4, och den medföljande inferenskoden exponerar avsiktligt inte någon godtycklig stegöverstyrning" — eftersom andra stegantal skulle utvärdera fasändpunkter som studenten aldrig tränades på. Så du justerar inte nfe4 ner till två steg vid inferens; du laddar ner nfe2.
De publicerade medelvärdena för de sex uppgifterna, alla baserade på tio seedningar med två standardfel, gör avvägningen läsbar för första gången i den här familjen:
• NFE 2 — GSM8K 80,17, MATH 55,72, HumanEval 48,17, MBPP 37,52; medelvärde för sex uppgifter 53,02. 3 denoiser-anrop per block, 10,7 token per anrop.
• NFE 4 — GSM8K 86,86, MATH 61,52, HumanEval 60,61, MBPP 57,50; medelvärde för sex uppgifter 66,36. 5 anrop per block, 6,4 token per anrop.
• NFE 8 — GSM8K 88,44, MATH 64,40, HumanEval 65,18, MBPP 62,60; medelvärde för sex uppgifter 70,34. 9 anrop per block, 3,6 tokens per anrop.
• NFE 16 — GSM8K 89,61, HumanEval 67,68, MBPP 66,20, medelvärde över tre uppgifter 74,50. 17 anrop per block, 1,9 token per anrop. Och en varning som de andra tre inte har: denna checkpoint är markerad pending_ten_seed_six_task_validation, dess siffror är en enda körning med seed 42 på tre uppgifter, och kortet säger att de ska betraktas som preliminära och inte direkt jämförbara.
Formen på den där stegen är det intressanta. En fördubbling av antalet steg från 2 till 4 ger 13,3 poäng i medel över sex uppgifter. En ny fördubbling till 8 ger 4,0. Att gå till 16 ger ytterligare ~4 på de tre uppgifter som kördes – från en annan, svagare utvärdering. Med andra ord planar destillationskurvan ut kraftigt precis där modellen blir konkurrenskraftig, och nfe4-kontrollpunkten ligger strax förbi knäet.

Var siffrorna kommer ifrån, och var de slutar
Varje siffra ovan är NVIDIAs, framtagen av NVIDIA, i NVIDIAs egen utvärderingsmiljö och rapporterad med ett antal seeds som får den att framstå som mer oberoende än den är. Tio seeds med två standardfel är ett seriöst protokoll – det säger att nfe4 HumanEval-poängen 60,61 har ett intervall på ±1,43, vilket är tillräckligt brett för att du inte bör tolka en skillnad på två punkter mot något annat som verklig. Men tio seeds i samma utvärderingsmiljö är inte tio laboratorier.
Det som inte finns per den 17 november: en Artificial Analysis-sida för någon Sigma-modell, någon post i en offentlig modellpriskatalog, något stöd för vLLM eller SGLang och någon tredjepartsreproduktion. Kontrollen är snabb och ger ett tomt resultat. vLLMs modellregister på main har ingen nemotron_labs_sigma-arkitektur; SGLang pull-förfrågningarna som nämner Nemotron-diffusion gäller den äldre Nemotron-Labs-Diffusion-8B-linjen och är fortfarande öppna. Transformers har ingen inbyggd nemotron_labs_sigma-modul, vilket är anledningen till att modellkortet säger åt dig att läsa in med trust_remote_code och skicka med repots 40 KB stora modelleringsfil tillsammans med vikterna.
Så det ärliga läget är: en släppt checkpoint med ett publicerat utvärderingsprotokoll och noll extern verifiering. Det är det normala läget för en diffusionsspråkmodell i november 2026, och det är inte en kritik av modellen — det är en beskrivning av hur mycket av modellkortet du kan planera utifrån.
Att köra det är ett Python-skript, inte en serveringsstack.
Kortets snabbstart består av elva rader: läs in tokenizern och modellen med fjärrkod, casta till bfloat16, anropa generate med ett maximalt antal tokens och valfria stoppsträngar, och läs av NFE-räknaren som modellen rapporterar. Det finns ingen chattmall i det här arkivet, ingen systemprompt, inget tool calling, inget JSON-läge – kortet säger rakt ut att detta är promptning i benchmarkstil och att modellen är den destillerade eleven av en bascheckpoint, inte en assistent. Om du vill ha konversation finns en instruct-variant av föräldramodellen i samlingen med 8 192 tokens kontext.
Två operativa detaljer kommer att bita alla som bara skummar. För det första, stopp: det finns inget EOS-stopp för token-ID, så en begäran som aldrig producerar din stoppsträng körs till tokenbudgeten, och budgeten delas med prompten inom ett fönster på 4 096 token. För det andra, minne: 18 GB bfloat16-vikter innan någon KV-cache, på en modell vars enda stödda väg är PyTorch eager-kod från själva repositoriet – det finns ingen paged attention, ingen kontinuerlig batchning, ingen kvantiserad build i samlingen. En enda begäran på en GPU är den konfiguration som stöds i dag.
Genomströmning är det tal folk kommer att vilja ha, och kortet anger det inte för denna checkpoint. Kortet för den överordnade modellen rapporterar ungefär 120–140 tokens per sekund för 256 genererade tokens på en H100 med DDPM-samplern vid 32 steg per 64-tokenblock. Den destillerade nfe4 utför 5 anrop per 32 tokens i stället för 33 anrop per 64, vilket räknat i antal anrop är lite drygt fyra gånger färre forward-pass per token – men det är aritmetik på stegantal, inte en mätning av denna checkpoint, och kortet publicerar ingen siffra för tokens per sekund för den.
Vad som inte är bekräftat
Tre saker som ett lanseringsinlägg skulle ha klargjort, men som den här utgåvan inte gör:
• Om NVIDIA avser detta som en produkt eller en forskningsartefakt. Licensen tillåter kommersiell användning och kortet är skrivet i produktspråk, men det finns ingen hostad slutpunkt, inget supportuttalande och inget omnämnande i något NVIDIA-blogginlägg fram till och med den 16 november.
• Vad läraren är värd. Kortet säger att studenten destillerades från en "MS-SUSReg-8B"-lärare i samma arkitekturfamilj, och proveniensfilen namnger körningen 8b_ms_susreg_n4_20261109 vid studentsteg 1200. Den släppta basen Nemotron-Labs-Sigma-8B beskrivs som samma härstamning – men baskortet publicerar inga siffror alls, bara en hänvisning till artikeln, så destillationsförlusten kan inte utläsas genom att jämföra de två korten sida vid sida.

• Huruvida nfe16-checkpointen är den bästa i familjen eller en artefakt av en ofullständig utvärdering. Dess siffror är de högsta på kortet och de minst trovärdiga, och kortet säger det självt, vilket är mer uppriktighet än de flesta versionsanteckningar lyckas med.
Varför den tysta lanseringen är själva nyheten
NVIDIA har släppt mycket i höst – Bolt, Super VL, Transcribe, Dory-serien, alla med blogginlägg och sidor på build.nvidia.com. Sigma anländer utan något av detta, från samma organisation, med ett paper, en licens, fyra Model Card++-underkort och en nedladdningsräknare på fem. Den mest sannolika tolkningen är att detta är en forskningsrelease som medvetet hålls utanför produktytan: kortets avsedda användning är "forskning inom latenskänslig generering, studier av spekulativ och parallell avkodning", vilket är språkbruket för en laboratorieartefakt.
För en läsare som försöker avgöra om detta är värt att bry sig om är den praktiska frågan inte huruvida modellen är bra i abstrakt mening – utan huruvida en kontinuerlig diffusions-LM med 4-NFE, 4K-kontext och ingen serveringsstack slår den autoregressiva modell som redan finns i er pipeline. För att svara på det måste man köra den, och aritmetiken som gör att den är värd GPU-timmen är enkel: 6,4 token per framåtpass, mot ett för en standardavkodare. Huruvida det håller när det möter er arbetsbelastning är precis vad den saknade oberoende benchmarken skulle ha berättat för er.
OrcaRouter serverar inte denna checkpoint, och den kommer inte att dyka upp bakom ett per-token-pris förrän någon bygger en serveringsväg för en block-diffusionsarkitektur med fast antal steg – kostnadsmodellen mappar inte mot in- och uttoken på samma sätt som ett autoregressivt API gör. Det som är live på OrcaRouter är jämförelseuppsättningen: 200+ autoregressiva modeller bakom en enda nyckel till leverantörens listpris utan påslag, så Sigma-frågan kan besvaras mot en verklig baslinje i stället för mot ett modellkort. Att routa båda genom en enda slutpunkt är också det billigaste sättet att hålla experimentet borta från din produktionsväg medan du bestämmer dig.
