NVIDIA Nemotron Labs Dory 1.0 4B trafił na Hugging Face z czterema checkpointami i bez zapowiedzi

N​VIDIA N​emotron Labs Dory 1.0 4B jest już dostępny na Hugging Face w czterech kwantyzacjach, a N​VIDIA nie powiedziała o tym ani słowa. Checkpoint nvidia/N​VIDIA-N​emotron-Labs-Dory1.0-4B-MXFP8 pojawił się z kartą modelu, która opatruje ten build datą „GA (10/16/2026)”; jego trzy bliźniacze wersje — N​VIDIA-N​emotron-Labs-Dory1.0-4B-BF16, N​VIDIA-N​emotron-Labs-Dory1.0-4B-NVFP4 i N​VIDIA-N​emotron-Labs-Dory1.0-4B-GGUF — zostały wypchnięte w tym samym 36-minutowym oknie po obu stronach północy UTC w dniach 16–17 października 2026. Nie ma odpowiedniego wpisu na blogu deweloperskim N​VIDIA, żadnej pozycji na stronie badawczej N​emotron ani żadnej wzmianki o modelu o nazwie Dory w którymkolwiek z tych miejsc. Sama karta jest nietypowo kompletna — pełna tabela benchmarków, instrukcje serwowania dla dwóch silników, suma kontrolna — ale otoczka marketingowa wokół niej, czyli to, co zwykle informuje, że model istnieje, jest całkowicie nieobecna.

Warto więc być precyzyjnym co do tego, co wolno ci na tej podstawie twierdzić, a czego nie. Co da się stwierdzić: wagi istnieją, można je pobrać, licencja jest podana, architektura jest opisana wystarczająco szczegółowo, by można ją było odtworzyć, a dostawca opublikował własne liczby wraz z uwagą, że zmierzył je sam. Czego jeszcze nie potwierdzono: czy to początek rodziny Nemotron Labs, czy jednorazowy eksperyment; czy szykuje się artykuł lub wpis na blogu; i czy liczby się obronią w cudzym środowisku testowym. NVIDIA nie przedstawiła tego jako premiery, więc ten tekst również tego nie robi. To odczyt repozytorium, które pojawiło się z dnia na dzień.

Co tak naprawdę znajduje się w repozytorium

Artefakty to cztery punkty kontrolne i jedna karta modelu. Karta jest zasadniczym dokumentem i to z niej pochodzi niemal wszystko poniżej.

• Formaty — BF16 (W16A16), MXFP8 (W8A16), NVFP4 (W4A16) oraz eksport Q5_K_M GGUF dla llama.cpp. Checkpoint MXFP8 jest tematem tego tekstu tylko dlatego, że to on zawiera kanoniczny identyfikator repozytorium; wyniki testów porównawczych w karcie zmierzono na BF16.

• Rozmiar i kształt — łącznie 4 mld parametrów, gęsty stos, a nie mieszanina ekspertów, podzielony na 8-warstwowy blok wejściowy, 20-warstwowy blok rekurencyjny i 8-warstwowy blok wyjściowy.

• Kontekst — do 256K tokenów, z 262,144 pozycjami zweryfikowanymi w vLLM w ramach polecenia uruchomieniowego, które NVIDIA dostarcza na karcie.

• Licencja — OpenMDW 1.1, permisywna, redystrybuowalna licencja modelu, której tekst jest podlinkowany z karty. Karta wprost stwierdza, że model jest „gotowy do użytku komercyjnego lub niekomercyjnego”.

• Język — tylko angielski, choć dane pre-treningowe obejmują 43 języki programowania.

• Budżet treningowy — 6 bilionów tokenów wstępnego treningu, z czego około pierwsze 4,5 biliona przetworzono natywnie w NVFP4, zanim pozostała część została przełączona na BF16, a następnie przeprowadzono fazę rozszerzania kontekstu na 300 miliardów tokenów. Dane obejmują okres od 2013 r. do grudnia 2025 r. Trening po wstępnym treningu to nadzorowane dostrajanie na zestawie przygotowanym przez NVIDIA, a następnie uczenie ze wzmocnieniem w wielu środowiskach z GRPO.

• Aktywność repozytorium — osiem commitów na `main` i dwóch współtwórców w chwili pisania; najnowszy z nich to edycja README. Pierwszy, „Wgranie checkpointu i tokenizera Dory 4B MXFP8”, pochodzi sprzed kilku godzin. To nie jest repozytorium, które od miesięcy spokojnie leżało publicznie i dopiero teraz zostało zauważone; to takie, które zostało uzupełnione dzisiaj.

Jeden szczegół, który ta karta podaje poprawnie, a większość kart tego nie robi: podaje dokładny rozmiar w bajtach i SHA-256 eksportu GGUF, dzięki czemu możesz zweryfikować, co pobrałeś. 3 673 288 864 bajtów, z hashem podanym w instrukcjach uruchomienia.

Architektura to cały powód, żeby się tym przejmować.

Pomijając tabelę benchmarków, ciekawy fakt dotyczący NVIDIA Nemotron Labs Dory 1.0 4B jest taki, że nie jest to jeden stały model. To sieć zapętlona, czyli latentnie rekurencyjna: 20-warstwowy blok rekurencyjny jest stosowany wielokrotnie między blokami wejściowym i wyjściowym, a wejście jest ponownie wstrzykiwane przy każdej pętli. Ten sam checkpoint zachowuje się więc inaczej w zależności od tego, o ile pętli poprosisz, a wybierasz to w czasie obsługi, a nie w czasie treningu.

Wynikają z tego trzy konsekwencje — wszystkie one z karty modelu, a nie z czyichkolwiek testów:

• Elastyczne obliczenia wnioskowania — jeden plik wag obsługuje kilka budżetów obliczeniowych. Liczba pętli 1 dla opóźnienia, 2 jako zalecana wartość domyślna, 4 gdy dokładność w zadaniach agentowych ma większe znaczenie niż tokeny na sekundę. Bez ponownego trenowania, bez drugiego checkpointu do pobrania i utrzymywania w synchronizacji.

• Wydajność tokenów — N​VIDIA twierdzi, że dodatkowa moc obliczeniowa na token trafia w ukryte rozumowanie, a nie w dłuższy widoczny łańcuch myśli, więc większa liczba pętli może generować mniej tokenów wyjściowych dla tego samego zadania. Karta zawiera wykres współczynnika tokenów wyjściowych, aby to uzasadnić. To twierdzenie ma bezpośrednie konsekwencje kosztowe, dlatego warto je zaznaczyć, a nie odrzucać.

• Oszczędne pod względem pamięci zapętlanie — to właśnie to rozwiązanie odpowiada na oczywisty zarzut. Standardowe zapętlanie utrzymuje osobną pamięć podręczną KV dla każdej pętli, więc pamięć rośnie z każdym dodanym przebiegiem. Dory obsługuje tryb buforowania KV z ostatniej pętli, który utrzymuje pojedynczą pamięć podręczną na każdą rekurencyjną warstwę uwagi i nadpisuje ją przy każdym przebiegu, utrzymując zajętość pamięci na poziomie zbliżonym do rozmiaru jednej pętli, niezależnie od tego, ile pętli wykonasz. NVIDIA twierdzi, że dokładność przy buforowaniu z ostatniej pętli pozostaje zbliżona do buforowania przy każdej pętli, przy niemal niezmienionych długościach wyjściowych, i określa to jako własny wynik eksperymentalny.

Stos uwagi jest hybrydowy: przeplatane warstwy z oknem przesuwnym i pełnej uwagi — ten sam ogólny wzorzec, wokół którego zbiegły się małe modele długokontekstowe z 2026 roku. Nic z tego samo w sobie nie jest egzotyczne. Rzadsze jest natomiast udostępnianie liczby pętli jako pokrętła wdrożeniowego w modelu 4B z oknem 256K.

Tabela benchmarków odczytywana jako tabela dostawcy

Każda liczba tutaj została uzyskana przez N​VIDIA w ramach tego, co karta nazywa „spójnym harnessem (NeMo Gym / Nemo Evaluator SDK)”. Żadna zewnętrzna strona nie odtworzyła żadnego z tych wyników, model ma około jednego dnia, a liczniki pobrań we wszystkich czterech repozytoriach wskazują zero. Traktuj te liczby jako deklarację kierunku, a nie jako tablicę wyników.

Zestaw porównawczy, który wybrała N​VIDIA, jest sam w sobie wymowny: Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B i Qwen3.6-35B-A3B. Warto zauważyć, że dwa komparatory klasy 4B pochodzą z poprzedniej generacji Q​wen, a każdy inny komparator jest znacznie większy. Przyjrzyj się trzem ustawieniom pętli:

• SWE-bench Verified — 50,3 przy jednej pętli, 59,5 przy dwóch, 61,8 przy czterech, w porównaniu z 54,7 dla Qwen3.5-4B, 61,0 dla Qwen3.5-9B, 57,40 dla Gemma 4 26B A4B i 73,4 dla Qwen3.6-35B-A3B.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 wobec 15, 24, 35 i 43. To wiersz, w którym zapętlanie daje najwięcej i w którym Dory wciąż najbardziej odstaje od stawki.

• τ³-bench (bankowość) — 11,6 / 12,89 / 14,69 wobec 5,03 dla Qwen3.5-4B, 7,22 dla Qwen3.5-9B, 13,66 dla Gemma 4 26B A4B i 9,54 dla Qwen3.6-35B-A3B. Dory prowadzi tutaj z dużą przewagą nad modelami Qwen 4B i 9B.

GDPval-AA-V2 (Elo) — 815 / 946 / 967 wobec 424, 546, 751,6 i 987. Skok z jednej pętli do dwóch to 131 punktów Elo, co stanowi największy ruch z pętli na pętlę w całej tabeli.

• GPQA Diamond, bez narzędzi — 69,19 / 72,41 / 72,16 w porównaniu z 77,71, 80,93, 80,43 i 85,35. Dory przegrywa ten test z każdym porównywanym modelem, w tym z 4B Qwen.

• HLE, tylko tekst, bez narzędzi — 8,25 / 10,89 / 10,43 w porównaniu z 11,31, 15,43, 17,79 i 19,18. Ta sama historia.

• IFBench — 74.29 / 77.94 / 79 wobec 53.83, 59, 77.89 i 57.44. Podążanie za instrukcjami to najsilniejszy względny wynik Dory; przy czterech pętlach nieznacznie wyprzedza 26B Gemma 4.

• AA-LCR — 63 / 71 / 73 wobec 64,7; 68,4; 64,6 i 68,5. Wyszukiwanie w długim kontekście znacznie poprawia się dzięki pętlom i ostatecznie wyprzedza wszystkie cztery porównywane rozwiązania.

• AA-Omniscience (dokładność) — 10,03 / 10,08 / 10,03 wobec 15,02, 18,05, 21,13 i 19,95. Zapętlanie zasadniczo nic nie wnosi do przechowywanej wiedzy, co jest oczekiwanym wynikiem i użytecznym sprawdzeniem kontrolnym dla pozostałej części tabeli.

Kształt wzorca jest tym, co się liczy. Zapętlanie daje najwięcej w zadaniach agentowych i związanych z użyciem narzędzi, najmniej przy przywoływaniu wiedzy encyklopedycznej, a druga pętla jest wszędzie warta znacznie więcej niż trzecia i czwarta. Jest to zgodne z rekomendacją samej karty, by domyślnie stosować dwie pętle.

Cztery zastrzeżenia, które kryją się w przypisach samej N​VIDIA

To tutaj karta jest uczciwsza niż większość, i tutaj czytelnik przeglądający tabelę mógłby zostać wprowadzony w błąd.

• Dane AA nie są danymi Artificial Analysis. Porównanie firmy N​VIDIA z indeksem wyników AA zostało wprost oznaczone jako „wewnętrzne szacunki obliczone w spójnym systemie oceny”, które „mogą odbiegać od oficjalnych wyników Artificial Analysis (AA)”. Są to wewnętrzne pomiary na porównywalnych zasadach, a nie zewnętrzny ranking.

• Kolumna długiego kontekstu wykorzystuje konfigurację hybrydową. W przypadku AA-LCR karta wskazuje, że użyto skorygowanych kluczy odpowiedzi z AA-LCR v1.1, ale zachowano starszy model sędziowski zamiast nowszego. Mieszanie skorygowanego zestawu kluczy ze starszym sędzią sprawia, że ta kolumna jest porównywalna z pozostałymi wierszami NVIDII, a niekoniecznie z wierszami kogokolwiek innego.

• Liczby powtórzeń są bardzo zróżnicowane. SciCode jest uruchamiany osiem razy, AA-LCR szesnaście, AA-Omniscience dziesięć, GDP.pdf pięć, a HLE, Terminal-Bench 4.0 i warianty GDPval-AA są uruchamiane raz. Pojedyncze uruchomienie na benchmarku o istotnej wariancji to oszacowanie punktowe, a nie wynik.

• Jeden wiersz w tabeli oznaczono sztyletem jako wartość raportowaną, a nie zmierzoną — 73,4 modelu Qwen3.6-35B-A3B w SWE-bench Verified. Co oznacza, że liczba, która na tablicy wygląda na największą, jest tą, której N​VIDIA nie uruchomiła samodzielnie.

Nic z tego nie sprawia, że tabela jest błędna. Sprawia to, że jest to wewnętrzna migawka jednego laboratorium, a uczciwa interpretacja jest taka, że Dory wygląda naprawdę konkurencyjnie wobec modeli 4B i 9B z poprzedniej generacji Qwen w zadaniach agentowych, pozostając w tyle za modelami 26B i 35B, obok których ją umieszczono.

Co możesz uruchomić dzisiaj, a czego nie możesz

Nie ma hostowanego endpointu dla tego modelu, który moglibyśmy zweryfikować, od N​VIDIA ani od kogokolwiek innego. Dory to wyłącznie wagi, a dwie ścieżki serwowania w karcie wymagają zbudowania z niezescalonego pull requesta:

• vLLM — obsługa jest „w trakcie przeglądu” w pull requeście 60149. Zanim trafi do wydania, instalujesz vLLM z tej gałęzi, a następnie serwujesz z nadpisaniami, które ustawiają liczbę pętli i tryb KV-cache. Karta wskazuje, że flaga środowiskowa prekompilowanego jądra pozwala uniknąć lokalnej kompilacji CUDA.

• llama.cpp — wsparcie znajduje się w pull request 30306, a karta wskazuje konkretną rewizję, a nie przesuwający się head PR-a, co jest właściwym instynktem w przypadku konfiguracji referencyjnej. Instrukcje są przeznaczone dla natywnego ARM64 macOS na Apple Silicon, a ścieżka GGUF oczekuje eksportu Q5_K_M o rozmiarze w bajtach podanym powyżej.

Nic na karcie nie sugeruje, że którykolwiek z projektów został scalony, a w informacjach o wydaniu żadnego z silników nie ma wpisu, który sugerowałby inaczej. Jeśli chcesz uruchomić Dory w tym tygodniu, budujesz z PR-a.

Notatki sprzętowe warte zachowania: NVIDIA testowała na H100, B200, B300 i DGX Spark, a jedyne opublikowane liczby dotyczące szybkości to przyspieszenia kwantyzacji na Sparku, a nie wartości przepustowości. Na tym urządzeniu MXFP8 osiąga 1,69× i 1,84× w porównaniu z BF16 w zależności od proporcji długości wejścia/wyjścia, a NVFP4 osiąga 2,17× i 2,44×. Zalecane próbkowanie to temperatura 1,0 z top-p 0,95, a rozumowanie jest zawsze włączone w ścieżce vLLM.

Dlaczego cicha premiera 4B wciąż jest warta twojego popołudnia

Ciekawe w modelu, który pojawia się bez premiery, jest to, że jego twierdzenie można sprawdzić w sposób, w jaki nie da się sprawdzić twierdzenia dotyczącego premiery. Nie ma prezentacji inauguracyjnej, która ogłaszałaby zwycięstwo w kategorii; jest karta głosząca konkretny, falsyfikowalny mechanizm — że pojedynczy checkpoint 4B skaluje własną dokładność wraz z ilością obliczeń w czasie wnioskowania. Możesz to przetestować na jednym GPU za pomocą flagi liczby pętli, a odpowiedź albo jest widoczna w twojej własnej ewaluacji, albo nie.

To również sytuacja, do której zbudowano warstwę routingu, i warto być precyzyjnym co do tego, co tu robimy, zamiast tylko ogólnikowo o tym wspominać. OrcaRouter nie obsługuje N​VIDIA N​emotron Labs Dory 1.0 4B — ten model nie znajduje się w naszym katalogu i nie ma dla niego hostowanego endpointu nigdzie, gdzie możemy to potwierdzić. Pojedynczy klucz daje ci natomiast drugą połowę porównania: hostowane modele, względem których benchmarkowałbyś samodzielnie hostowany 4B, są osiągalne przez jedno API w cenie katalogowej dostawcy z 0% marży, więc samodzielnie hostowany eksperyment nie potrzebuje drugiej umowy ani drugiego SDK. Automatyczne przełączanie awaryjne obejmuje okno, w którym twoja własna pula GPU jest nasycona, a DSL routingu pozwala, aby wywołanie self-hostowane znalazło się obok hostowanych za jednym endpointem. Jeśli testujesz, czy elastyczna głębokość jest warta złożoności operacyjnej, to przynajmniej grupa kontrolna jest w zasięgu jednego klucza.

Co zamieniłoby to w prawdziwą historię?

Trzy rzeczy, żadnej z nich jeszcze nie ma.

Najpierw ogłoszenie. Karta jest datowana na 16 października, a repozytoria uzupełniono przez noc; kanał deweloperski NVIDIA opublikował 15 października wpis o Nemotronie, który dotyczył zupełnie innego modelu. W dowolnym momencie może pojawić się wpis na blogu, artykuł naukowy lub strona rodziny Nemotron Labs, i prawdopodobnie zawierałby szczegóły treningu oraz zamierzoną rolę modelu, które karta pozostawia w domyśle.

Po drugie, wsparcie dla silników. Zarówno vLLM, jak i llama.cpp mają nieScalone pull requesty. W dniu, w którym którykolwiek z tych pull requestów zostanie scalony, „możesz to uruchomić” przestanie oznaczać „możesz to zbudować z gałęzi”.

Po trzecie, i to najcenniejsze, niezależna ewaluacja. Twierdzenia najbardziej warte odtworzenia to te, które podkreślił dostawca: zmiany w SWE-bench i Terminal-Bench w zależności od liczby pętli oraz twierdzenie, że buforowanie KV z ostatniej pętli zachowuje dokładność. Oba można przetestować za pomocą opublikowanych narzędzi i żadne z nich nie zostało przetestowane przez nikogo spoza N​VIDIA.

Dokładne podsumowanie na dziś brzmi tak: prawdziwe wagi w czterech formatach, permisywna licencja, naprawdę nietypowa architektura, ścieżka serwowania istniejąca wyłącznie jako dwa otwarte pull requesty oraz arkusz benchmarku, który jest własnym harnessem jednego laboratorium, z zastrzeżeniami wydrukowanymi w jego własnych przypisach. To najciekawszy model 4B, jaki NVIDIA opublikowała w tym roku, a firma jeszcze nie zdecydowała się nikomu o nim powiedzieć.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.