
Nemotron-Labs-Sigma-distill-8B-nfe4 pojawił się bez zapowiedzi i z pięcioma pobraniami
- GoogleNOWOŚĆGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 za 1 mln tokenów · 90 tok/s
- AnthropicNOWOŚĆAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 za 1 mln tokenów · 97 tok/s
- orcaNOWOŚĆOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNOWOŚĆOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 za 1 mln tokenów · 88 tok/s
- OrcaNOWOŚĆOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 za 1 mln tokenów · 133 tok/s
- OrcaNOWOŚĆOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 za 1 mln tokenów · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 za 1 mln tokenów · 127 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 za 1 mln tokenów · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 za 1 mln tokenów · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 za 1 mln tokenów · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligencja
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 za 1 mln tokenów · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligencja
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 za 1 mln tokenów · 146 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Inteligencja
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Inteligencja
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 za 1 mln tokenów · 124 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Inteligencja
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Inteligencja
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 za 1 mln tokenów · 218 tok/s
Hugging Face odnotował pięć pobrań nvidia/Nemotron-Labs-Sigma-distill-8B-nfe4 w ciągu ostatnich trzydziestu dni i zero polubień, gdy ten tekst powstawał 17 listopada 2026 r. To cały dotychczasowy odbiór modelu językowego o 8 miliardach parametrów, który NVIDIA opublikowała sześć dni wcześniej. Nie było wpisu na blogu, strony na build.nvidia.com, wątku premierowego ani tabeli wyników w komunikacie prasowym. Karta samego checkpointu datuje wydanie na 11/12/2026; pierwszy commit w repozytorium pochodzi z 9 listopada, z godz. 05:47 UTC, a ostatnia zmiana w nim miała miejsce 16 listopada i przepisała konwersję tak, aby zachować tensory geometrii fp32. Wszystko poniżej odczytano z tego repozytorium, jego plików konfiguracyjnych i cytowanego przez nie raportu technicznego, a części, które nie zostały potwierdzone, oznaczono jako takie, zamiast je uzupełniać.
Repozytorium jest jedynym źródłem pierwotnym i jest niezwykle jednoznaczne.
Większość cichych wydań pozostawia kartę zastępczą. To wydanie tego nie robi. Dostarcza plik proweniencji, manifest integralności punktu kontrolnego z SHA-256, hash integralności tokenizatora, cztery podkarty Model Card++ oraz konfigurację generowania, która przypina sampler. Taki poziom dokumentacji otrzymuje się, gdy model przeszedł wewnętrzny proces wydania, a następnie po prostu nie został ogłoszony — artefakty, które podsumowałby wpis o premierze, są wszystkie obecne, tyle że bez wpisu.
Praca, która za tym stoi, jest prawdziwa i opatrzona datą: arXiv:2610.02665, Large Language Continuous Diffusion Models— publikacja NVIDIA z siedemnastoma autorami, której wersja v2 ukazała się 12 listopada, czyli tego samego dnia, w którym — jak twierdzi karta modelu — pojawiły się wagi. Praca opisuje Nemotron-Labs-Sigma jako pierwszą rodzinę wielkoskalowych ciągłych dyfuzyjnych modeli językowych o rozmiarach 3B i 8B. Sekcja ewaluacji karty modelu przypisuje swoje wyniki „zweryfikowanym statystykom z dziesięciu ziaren i sześciu zadań z przekazania w ograniczonym wydaniu z 10 listopada” — zdanie, które zdradza, że plik krążył prywatnie przez co najmniej dwa dni, zanim włączono publiczne repozytoria.

Co właściwie znajduje się w punkcie kontrolnym?
Pomiń opis, a specyfikacja jest krótka. Każda z poniższych linii pochodzi z pliku config.json, generation_config.json lub karty:
• Backbone — transformer wyłącznie dekoderowy w stylu Ministral: 34 warstwy, rozmiar ukryty 4096, FFN 14 336, 32 głowice zapytań i 8 głowic klucz-wartość o wymiarze głowicy 128, SwiGLU, RoPE z blokiem skalowania YaRN w konfiguracji.
• Głowica generacji — 16-wymiarowa ciągła głowica dyfuzji osadzeń tokenów, przy czym pomocnicza autoregresyjna głowica odczytu jest zachowana w punkcie kontrolnym, a nie przycięta.
• Liczba parametrów — 8,0 mld według nazewnictwa karty, 9,03 mld według spisu safetensors (9 026 818 048 tensorów BF16 plus 2 097 186 F32), 18,06 GB w czterech shardach. Różnica między tymi dwiema liczbami to głowica pomocnicza.
• Kontrakt dekodowania — bloki po 32 tokeny, dokładnie 4 ewaluacje funkcji odszumiania plus jeden odczyt, czyli 5 wywołań odszumiacza na blok, co daje 6,4 wygenerowanego tokenu na przebieg w przód.
• Sampler — natywna ścieżka fresh_x0 z self-conditioning przenoszonym między krokami, classifier-free guidance na stałe ustawione na 1, temperatura score na stałe ustawiona na 1.
• Kontekst — 4096 tokenów na prompt i generowanie. Tylko w języku angielskim. Brak zatrzymywania na token-ID EOS; zatrzymujesz się na ciągach znaków lub na budżecie tokenów.
• Środowisko uruchomieniowe — PyTorch 2.4 lub nowszy, Transformers 4.55 lub nowszy, trust_remote_code, GPU CUDA w trybie bfloat16. CPU jest wyraźnie nieobsługiwany, a karta podaje powód: próbnik ulega degradacji numerycznej na CPU i generuje nieużywalne dane wyjściowe.
• Licencja — NVIDIA Nemotron Open Model License, która według karty modelu zezwala na użycie komercyjne i niekomercyjne. Karta stwierdza również w sekcji dotyczącej przypadków użycia, że model działa offline na Twoim sprzęcie, a NVIDIA nie hostuje żadnej usługi.
Ta ostatnia linijka ma znaczenie dla każdego, kto zakładał, że gdzieś istnieje endpoint Sigma. Nie istnieje. W serwisie build.nvidia.com nie ma wpisu Nemotron-Labs-Sigma, a modelu nie ma w katalogu OrcaRouter — podobnie jak reszty serii Nemotron — więc dziś nie ma czego wywoływać, jest tylko coś do pobrania.
Cztery checkpointy, cztery różne modele
Nazewnictwo sprawia, że warianty wyglądają jak jeden model w czterech ustawieniach. Tak nie jest: każda wartość NFE to osobno destylowany model studencki, a karta mówi bez ogródek, że liczba kroków jest wbudowana na stałe. „Ten wariant jest trenowany wyłącznie dla NFE=4, a dołączony kod inferencji celowo nie udostępnia dowolnego nadpisania liczby kroków” — ponieważ inne liczby kroków oceniałyby punkty końcowe faz, na których model studencki nigdy nie trenował. Nie dostrajasz więc nfe4 do dwóch kroków podczas inferencji; pobierasz nfe2.
Opublikowane średnie dla sześciu zadań — wszystkie z dziesięciu ziaren, z dwoma błędami standardowymi — po raz pierwszy w tej rodzinie czynią ten kompromis czytelnym:
• NFE 2 — GSM8K 80,17, MATH 55,72, HumanEval 48,17, MBPP 37,52; średnia z sześciu zadań 53,02. 3 wywołania denoisera na blok, 10,7 tokena na wywołanie.
• NFE 4 — GSM8K 86,86, MATH 61,52, HumanEval 60,61, MBPP 57,50; średnia dla sześciu zadań 66,36. 5 wywołań na blok, 6,4 tokena na wywołanie.
• NFE 8 — GSM8K 88,44, MATH 64,40, HumanEval 65,18, MBPP 62,60; średnia dla sześciu zadań 70,34. 9 wywołań na blok, 3,6 tokena na wywołanie.
• NFE 16 — GSM8K 89,61, HumanEval 67,68, MBPP 66,20, średnia z trzech zadań 74,50. 17 wywołań na blok, 1,9 tokena na wywołanie. Oraz zastrzeżenie, którego nie mają pozostałe trzy: ten checkpoint jest oznaczony jako pending_ten_seed_six_task_validation, jego wyniki pochodzą z pojedynczego przebiegu z seedem 42 na trzech zadaniach, a karta zaleca traktować je jako tymczasowe i nieporównywalne bezpośrednio.
Ciekawa jest forma tej drabinki. Podwojenie liczby kroków z 2 do 4 daje 13,3 punktu średniej z sześciu zadań. Kolejne podwojenie do 8 daje 4,0. Przejście do 16 daje dodatkowe ~4 na trzech zadaniach, które uruchomiono — z innej, słabszej ewaluacji. Innymi słowy, krzywa destylacji gwałtownie się spłaszcza dokładnie tam, gdzie model staje się konkurencyjny, a punkt kontrolny nfe4 leży tuż za punktem przegięcia.

Skąd pochodzą liczby i gdzie się kończą
Każda z powyższych liczb jest własnością NVIDIA, została uzyskana przez NVIDIA na jej własnym harnessie ewaluacyjnym i podana z liczbą ziaren, która sprawia, że wygląda na bardziej niezależna, niż jest w rzeczywistości. Dziesięć ziaren i dwa błędy standardowe to poważny protokół — mówi ci, że wynik 60,61 w nfe4 HumanEval ma przedział ±1,43, który jest wystarczająco szeroki, by nie traktować dwupunktowej różnicy względem czegokolwiek jako rzeczywistej. Ale dziesięć ziaren tego samego harnessu to nie dziesięć laboratoriów.
Co nie istnieje na dzień 17 listopada: strona Artificial Analysis dla jakiegokolwiek modelu Sigma, jakikolwiek wpis w publicznym katalogu cen modeli, jakiekolwiek wsparcie vLLM lub SGLang oraz jakiekolwiek odtworzenie przez podmioty trzecie. Sprawdzenie jest szybkie i kończy się pustym wynikiem. Rejestr modeli vLLM na gałęzi main nie zawiera architektury nemotron_labs_sigma; pull requesty SGLang, które wspominają o Nemotron diffusion, dotyczą starszej linii Nemotron-Labs-Diffusion-8B i nadal są otwarte. Transformers nie ma natywnego modułu nemotron_labs_sigma, dlatego karta modelu mówi, aby ładować z trust_remote_code i dołączać 40 KB plik modelowania z repozytorium wraz z wagami.
Uczciwy status jest więc taki: opublikowany checkpoint z opublikowanym protokołem ewaluacji i zerową zewnętrzną weryfikacją. To normalny stan dla dyfuzyjnego modelu językowego w listopadzie 2026 roku i nie jest to krytyka modelu — to opis tego, na jaką część karty można liczyć przy planowaniu.
Uruchamianie tego to skrypt w Pythonie, a nie stos serwujący.
Szybki start karty to jedenaście linii: załaduj tokenizer i model z użyciem zdalnego kodu, przekonwertuj do bfloat16, wywołaj generate z maksymalną liczbą tokenów i opcjonalnymi ciągami zatrzymania, a następnie odczytaj zgłaszaną przez model liczbę NFE. W tym repozytorium nie ma szablonu czatu, monitu systemowego, wywoływania narzędzi ani trybu JSON — karta mówi wprost, że jest to prompting w stylu benchmarkowym, a model jest destylowanym studentem bazowego checkpointu, a nie asystentem. Jeśli chcesz prowadzić rozmowę, kolekcja zawiera wariant instruct modelu-rodzica z kontekstem 8192 tokenów.
Dwa szczegóły operacyjne dadzą się we znaki każdemu, kto tylko prześlizgnie się wzrokiem po tekście. Po pierwsze, zatrzymywanie: nie ma zatrzymania na token ID EOS, więc żądanie, które nigdy nie wygeneruje twojego ciągu zatrzymania, działa aż do wyczerpania budżetu tokenów, a budżet jest współdzielony z promptem w oknie 4096 tokenów. Po drugie, pamięć: 18 GB wag bfloat16 przed jakimkolwiek KV cache, w modelu, którego jedyną obsługiwaną ścieżką jest eager code PyTorcha z samego repozytorium — nie ma paged attention, ciągłego batchowania ani skwantyzowanej kompilacji w kolekcji. Pojedyncze żądanie na jednym GPU to obecnie obsługiwana konfiguracja.
Przepustowość to liczba, której ludzie będą chcieć, a karta nie podaje jej dla tego checkpointu. Karta modelu nadrzędnego podaje około 120–140 tokenów na sekundę dla 256 generowanych tokenów na jednym H100 z użyciem próbnika DDPM przy 32 krokach na blok 64 tokenów. Destylowany nfe4 wykonuje 5 wywołań na 32 tokeny zamiast 33 wywołań na 64, co według liczby wywołań oznacza nieco ponad czterokrotnie mniej przejść w przód na token — ale to jest arytmetyka na liczbach kroków, a nie pomiar tego checkpointu, i karta nie publikuje dla niego żadnej liczby tokenów na sekundę.
Co nie jest potwierdzone.
Trzy kwestie, które rozstrzygnąłby post premierowy, a których to wydanie nie rozstrzyga:
• Czy NVIDIA zamierza traktować to jako produkt czy jako artefakt badawczy. Licencja zezwala na użycie komercyjne, a karta została napisana językiem produktowym, ale nie ma hostowanego punktu końcowego, deklaracji wsparcia ani wzmianki w żadnym wpisie na blogu NVIDIA do 16 listopada.
• Ile wart jest nauczyciel. Karta mówi, że student został wydestylowany z nauczyciela „MS-SUSReg-8B” z tej samej rodziny architektur, a plik pochodzenia wskazuje przebieg 8b_ms_susreg_n4_20261109 na kroku studenta 1200. Udostępniona baza Nemotron-Labs-Sigma-8B jest opisana jako ta sama linia rozwojowa — ale karta modelu bazowego nie publikuje żadnych liczb, tylko odniesienie do artykułu, więc straty destylacji nie można odczytać z obu kart zestawionych obok siebie.

• Czy checkpoint nfe16 jest najlepszy w rodzinie, czy artefaktem niedokończonej ewaluacji. Jego liczby są najwyższe na karcie i najmniej wiarygodne, a sama karta to przyznaje, co jest większą szczerością, niż udaje się osiągnąć większości not wydania.
Dlaczego cicha premiera jest najważniejsza
NVIDIA wydała jesienią wiele rzeczy — Bolt, Super VL, Transcribe, linię Dory, wszystko z wpisami na blogu i stronami build.nvidia.com. Sigma pojawia się bez żadnego z tych elementów, od tej samej organizacji, z artykułem, licencją, czterema podkartami Model Card++ i licznikiem pięciu pobrań. Najbardziej prawdopodobna interpretacja jest taka, że to wydanie badawcze celowo trzymane poza ofertą produktową: przeznaczenie karty to „badania nad generowaniem wrażliwym na opóźnienia, badania nad dekodowaniem spekulacyjnym i równoległym”, co jest językiem artefaktu laboratoryjnego.
Dla czytelnika, który zastanawia się, czy warto się tym przejmować, praktyczne pytanie nie brzmi, czy model jest dobry w teorii — lecz czy ciągły model dyfuzyjny LM z 4 NFE, przy kontekście 4K i bez stosu serwującego, bije model autoregresyjny, który już masz w swoim potoku. Odpowiedź na to wymaga uruchomienia go, a arytmetyka, która czyni tę godzinę GPU wartą zachodu, jest prosta: 6,4 tokena na przebieg w przód wobec jednego w standardowym dekoderze. Czy to przetrwa zderzenie z twoim obciążeniem — dokładnie tego dowiedziałbyś się z brakującego niezależnego benchmarku.
OrcaRouter nie udostępnia tego checkpointu i nie pojawi się on w cenie za token, dopóki ktoś nie zbuduje ścieżki serwowania dla architektury dyfuzji blokowej o stałej liczbie kroków — model kosztów nie przekłada się na tokeny wejściowe i wyjściowe tak, jak w API autoregresyjnym. To, co jest dostępne w OrcaRouter, to zestaw porównawczy: ponad 200 modeli autoregresyjnych dostępnych za jednym kluczem w cenach katalogowych dostawców bez marży, więc pytanie o Sigmę można rozstrzygnąć względem rzeczywistego punktu odniesienia, a nie względem karty. Kierowanie obu przez jeden punkt końcowy to także najtańszy sposób, by trzymać eksperyment poza ścieżką produkcyjną, dopóki nie podejmiesz decyzji.
