NVIDIA Nemotron Labs Dory 1.0 4B vs Qwen 3.8: Otwartowagowy model 4B przeciwko trójstopniowej linii Alibaby

Porównanie NVIDA Nemotron Labs Dory 1.0 4B z „Qwen 3.8" to nie pojedynek — to niedopasowanie w bardzo konkretnym i pouczającym sensie. Qwen 3.8 to nie jeden model; na końcu z otwartymi wagami jest to Qwen3.8-27B, gęsty model multimodalny o 27 mld parametrów na licencji Apache 2.0 z oknem 256K, a powyżej niego są Qwen3.8-Flash i Qwen3.8-Max, oba większe, oba udostępniane wyłącznie przez API Alibaby. Dory to pojedynczy, tekstowy, wyłącznie angielskojęzyczny checkpoint 4B od NVIDA, opublikowany na Hugging Face w czterech kwantyzacjach na licencji OpenMDW 1.1, z kartą opatrzoną pieczątką „GA (10/16/2026)" i bez żadnego ogłoszenia w tle. Prawdziwe pytanie nie brzmi więc: czy 4B może pobić 27B. Brzmi ono: czy 4B o elastycznej głębokości, hostowany u siebie, jest tańszym sposobem na osiągnięcie tej klasy zadań, którą w przeciwnym razie wynajmowałbyś z linii Qwen3.8 — a dwa najistotniejsze dla decyzji fakty są takie, że Qwen3.8-27B ma otwarte wagi, więc oba modele działają na twoim sprzęcie, oraz że karta samego Dory'ego w ogóle nie porównuje go z żadnym modelem Qwen3.8.

Co właściwie jest porównywane?

Zacznij od strony Qwen, ponieważ „Qwen 3.8" zlewa w jedno trzy różne propozycje.

Qwen3.8-27B to gęsty wizyjno-językowy model firmy Alibaba z otwartymi wagami, na licencji Apache 2.0, z 27 mld parametrów, 64 warstwami i wymiarem ukrytym 5120, z natywnym kontekstem 262 144 tokenów, który — jak podaje karta modelu — można rozszerzyć do miliona. Przyjmuje tekst, obrazy i wideo, a zwraca tekst; wykorzystuje hybrydowy układ Gated DeltaNet i Gated Attention w 16 powtarzanych blokach i jest dostarczany w formacie Transformers z obsługą vLLM, SGLang i TokenSpeed. Osiąga 90,3 w LiveCodeBench v6, 89,2 w GPQA Diamond, 79,5 w IFBench i 73,0 w Terminal-Bench 2.1, a to tylko część długiej listy wyników agentowych i wizyjnych. Jest publicznie dostępny od połowy sierpnia 2026 i został pobrany kilka milionów razy.

Qwen3.8-Flash i Qwen3.8-Max to poziomy hostowane. Flash to zoptymalizowany pod kątem kosztów model multimodalny z kontekstem miliona tokenów; Max to flagowy model Alibaby, również o milionie tokenów, pozycjonowany jako konkurent najsilniejszych modeli własnościowych. Żaden z nich nie ma otwartych wag. Dostęp do nich uzyskasz przez API.

N​VIDIA N​emotron Labs Dory 1.0 4B to wersja 4B. Gęsta, zapętlona, latentnie rekurencyjna — ośmiowarstwowy blok wejściowy, dwudziestowarstwowy blok rekurencyjny stosowany zmienną liczbę razy, ośmiowarstwowy blok wyjściowy — z hybrydową, przeplataną uwagą z oknem przesuwnym i pełną uwagą. Tekst na wejściu, tekst na wyjściu, tylko angielski, kontekst 256K. Wstępnie wytrenowany na 6 bilionach tokenów, z czego pierwsze ~4,5 biliona natywnie w NVFP4, plus rozszerzenie kontekstu o 300 miliardów tokenów, a następnie SFT i GRPO w wielu środowiskach. Nie istnieje żaden hostowany endpoint dla niego, który moglibyśmy zweryfikować.

Jedna kwestia, którą warto dobrze zrozumieć, bo wielu ludzi się na tym potyka: N​VIDIA udostępnia Dory w BF16, MXFP8, NVFP4 i Q5_K_M GGUF. Kanoniczny identyfikator repozytorium to ten dla MXFP8, ale benchmarki w karcie modelu zmierzono na BF16. MXFP8 to kwantyzacja tych samych wag, a nie inny model.

Kontrast specyfikacji

• Parametry — Dory 1.0 4B to gęsty model 4B, z blokiem rekurencyjnym stosowanym wielokrotnie, dzięki czemu efektywna moc obliczeniowa na token przy czterech pętlach przekracza liczbę parametrów. Qwen3.8-27B to gęsty model 27B z wieżą wizyjną. Nie należą do tej samej klasy wagowej i tylko jeden z nich mieści się we wdrożeniu o małej pamięci.

• Modalność — Qwen3.8-27B przyjmuje obrazy i wideo oraz tekst. Dory przyjmuje tekst. Każde obciążenie zawierające obraz kończy się tutaj.

• Kontekst — oba reklamują 256K. Karta Qwen3.8-27B mówi o natywnych 262 144 pozycjach z możliwością rozszerzenia do około miliona; karta Dory’ego mówi o do 256K, przy czym 262 144 zweryfikowano w vLLM w ramach dostarczonego polecenia uruchomieniowego. Zarówno Qwen3.8-Flash, jak i Max osiągają milion tokenów wprost.

• Licencja — Apache 2.0 dla Qwen3.8-27B, OpenMDW 1.1 dla Dory. Obie przyjazne dla zastosowań komercyjnych; Apache 2.0 to tekst bardziej znany.

• Języki — Qwen3.8-27B jest wielojęzyczny ze względu na swoje pochodzenie; Dory obsługuje wyłącznie angielski, a w jego mieszance pretreningowej znajdują się 43 języki programowania.

• Zachowanie obliczeniowe — to jedyny wiersz, w którym Dory ma coś, czego Qwen3.8-27B strukturalnie nie może zaoferować. Głębokość Dory’ego jest parametrem czasu obsługi: jedna pętla dla opóźnienia, dwie jako zalecana przez NVIDIA wartość domyślna, cztery, gdy większe znaczenie ma dokładność agentowa — a wszystko to z jednego checkpointu, z trybem buforowania KV w ostatniej pętli, którego celem jest utrzymanie pamięci podręcznej na poziomie w przybliżeniu rozmiaru jednej pętli niezależnie od liczby pętli. Qwen3.8-27B ma stałą głębokość; jego dźwigniami są kwantyzacja i sprzęt.

• Formaty — Dory dostarcza cztery kwantyzacje, w tym GGUF dla llama.cpp. Qwen3.8-27B ma osobne repozytorium FP8 oraz bardzo rozbudowany ekosystem pochodnych kwantyzacji i dostrojeń — i właśnie to zapewnia kilka milionów pobrań.

Pytanie benchmarkowe, którego unika własna tabela NVIDIA

Oto niewygodny szczegół. Tabela benchmarków NVIDII dla modelu Dory porównuje go z Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B i Qwen3.6-35B-A3B. Wykorzystuje dwa poprzednie pokolenia Qwen i ani razu nie sięga po Qwen3.8. To wybór, który da się obronić w przypadku modelu 4B — Qwen3.8-27B jest prawie siedem razy większy od niego — ale oznacza to, że producent nie ma w ogóle żadnego opublikowanego bezpośredniego porównania z obecną generacją Qwen, w żadnym kierunku. Karta Qwen3.8-27B firmy Alibaba z kolei zawiera benchmarki względem zastrzeżonej czołówki, a nie względem modelu 4B.

To, co karta Dory rzeczywiście publikuje, na tle starszych punktów odniesienia, jest szczere co do tego, gdzie zapętlanie się opłaca. Prześledź jej trzy ustawienia pętli w zestawieniu z Qwen3.5-4B i Qwen3.5-9B:

• SWE-bench Verified — 50,3 / 59,5 / 61,8 wobec 54,7 i 61,0. Przy czterech pętlach Dory nominalnie przewyższa 9B Qwen w tym wierszu.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 wobec 15 i 24. Przegrywa z oboma, w tym również 4B.

• τ³-bench (bankowość) — 11,6 / 12,89 / 14,69 w porównaniu z 5,03 i 7,22. Dory osiąga ponad dwukrotnie wyższy wynik niż 4B Qwen i około dwukrotnie wyższy niż 9B.

• GPQA Diamond, bez narzędzi — 69.19 / 72.41 / 72.16 wobec 77.71 i 80.93. Przegrywa z oboma.

• IFBench — 74,29 / 77,94 / 79 wobec 53,83 i 59. Duże zwycięstwo w zakresie przestrzegania instrukcji.

• AA-LCR — 63 / 71 / 73 wobec 64,7 i 68,4. Wyszukiwanie w długim kontekście gwałtownie się poprawia dzięki pętlom i kończy z przewagą.

• AA-Omniscience — 10,03 / 10,08 / 10,03 wobec 15,02 i 18,05. Przechowywana wiedza prawie nie zmienia się wraz z liczbą pętli, co jest kontrolą poprawności, którą przechodzi reszta tabeli.

Każda z tych liczb pochodzi od N​VIDIA, została zmierzona na stanowisku testowym N​VIDIA, z ujawnionymi liczbami powtórzeń — SciCode osiem przebiegów, AA-LCR szesnaście, kilka benchmarków dokładnie raz — a karta nazywa swoje wyniki wzorowane na Artificial-Analysis „wewnętrznymi szacunkami”, które mogą odbiegać od oficjalnych. Nic z tego nie zostało odtworzone.

Teraz umieść kartę Qwen3.8-27B obok niej. Jego raportowane wyniki 89,2 w GPQA Diamond, 79,5 w IFBench i 73,0 w Terminal-Bench 2.1 wszystkie przewyższają najlepsze wyniki Dory na tych samych benchmarkach, co jest dokładnie tym, czego można by oczekiwać od modelu siedem razy większego z o dwie generacje nowszym pipeline'em treningowym. Nie ma scenariusza, w którym 4B pokonuje dobrze wykonany model 27B w benchmarku wiedzy lub rozumowania, i Dory tego nie twierdzi. Dory twierdzi coś innego: że przy 4B osiąga w przybliżeniu zachowanie agentowe klasy 9B i że to Ty decydujesz, ile mocy obliczeniowej przeznaczyć na tę skalę.

Wdrożenie: luka nie jest bliska, a nie chodzi tu o jakość.

Qwen3.8-27B to zwykłe wydanie o otwartych wagach. Format Transformers, wymienione wsparcie dla vLLM, SGLang i TokenSpeed, bliźniaczy model FP8 oraz ekosystem, który od sierpnia wygenerował znacznie ponad tysiąc kwantyzacji i setki dostrojeń. Jeśli twój stack obsługuje nowoczesne modele o otwartych wagach, obsłuży też ten, a jedynym prawdziwym ograniczeniem jest pamięć — gęsty model 27B w BF16 nie jest modelem na małe maszyny, ale skwantyzowane warianty istnieją właśnie po to.

Dory to przeciwieństwo. Obsługa vLLM jest w trakcie przeglądu w otwartym pull requeście; dopóki nie zostanie scalony, NVIDIA mówi, żeby zainstalować vLLM z tej gałęzi z flagą wstępnie skompilowanego jądra, a następnie uruchomić go z nadpisaniami konfigurującymi liczbę iteracji pętli rekurencyjnej i tryb KV-cache. Obsługa llama.cpp znajduje się w drugim otwartym pull requeście z przypiętym commitem i instrukcjami budowania dla ARM64 macOS. Nie ma hostowanego endpointu dla Dory w żadnym miejscu, które możemy zweryfikować, a liczniki pobrań we wszystkich czterech repozytoriach wynosiły zero w momencie pisania tego tekstu. Opublikowane dane dotyczące szybkości ograniczają się do przyspieszeń kwantyzacji na DGX Spark — 1,69× i 1,84× dla MXFP8 względem BF16, 2,17× i 2,44× dla NVFP4, w zależności od proporcji długości wejścia/wyjścia — a nie przepustowości.

Na tym tle twierdzenie dotyczące pamięci w karcie Dory to jedyny element inżynierii, który mógłby usprawiedliwić tę niedogodność. Standardowe rekurencyjne zapętlanie przechowuje osobny bufor KV dla każdej pętli, więc pamięć rośnie z każdym przebiegiem. Tryb buforowania KV ostatniej pętli Dory utrzymuje jeden bufor na każdą rekurencyjną warstwę uwagi i nadpisuje go przy każdym przebiegu, utrzymując zajętość pamięci na poziomie mniej więcej rozmiaru jednej pętli dla dowolnej liczby pętli, a dokładność — jak twierdzi NVIDIA — pozostaje zbliżona do trybu na pętlę. Jeśli potwierdzi się to w pomiarach kogoś innego, model 4B z oknem 256K i czterema pętlami stanie się praktyczny na sprzęcie, który w przeciwnym razie nie byłby w stanie temu podołać. Nikt spoza NVIDIA tego nie sprawdził.

Gdzie tak naprawdę plasuje się OrcaRouter w tym porównaniu

To rzadkie porównanie, w którym możemy być konkretni, ponieważ obie strony stoją tu na różnym gruncie. Strona Qwen jest w naszym katalogu: qwen/qwen3.8-27b jest samodzielnie hostowany na własnej infrastrukturze OrcaRouter, a qwen/qwen3.8-flash oraz qwen/qwen3.8-max są dostępne jako hostowane endpointy, wszystko przez jeden klucz API w cenie listowej dostawcy z 0% marży. Strona NVIDIA nie — NVIDIA Nemotron Labs Dory 1.0 4B nie znajduje się w katalogu i nie ma hostowanego endpointu nigdzie tam, gdzie moglibyśmy to potwierdzić.

Ta asymetria jest naprawdę przydatna, a nie niezręczna. Argument za małym modelem hostowanym samodzielnie jest argumentem kosztowym, a argument kosztowy potrzebuje ceny wynajmu, przeciwko której się argumentuje. Trzy poziomy Qwen3.8 mają bardzo różne ceny — 27B za 0,33 USD za milion tokenów wejściowych i 2,40 USD za milion tokenów wyjściowych, Flash za 0,15 USD i 0,47 USD, Max za 2,00 USD i 6,00 USD — więc uczciwa wersja pytania „czy 4B może to zastąpić” ma trzy różne odpowiedzi w zależności od tego, którego poziomu faktycznie używasz dzisiaj. Pojedynczy klucz OrcaRouter daje dostęp do wszystkich trzech, więc wycenienie tego pytania nie wymaga trzech kont. Ponieważ przekazujemy cenę katalogową dostawcy bez marży, zmiana ceny Qwen trafia tutaj tego samego dnia. A kiedy już wybierzesz poziom, automatyczne przełączanie awaryjne między dostawcami i DSL routingu — który pozwala łączyć modele za jednym wywołaniem — sprawiają, że przejście z hostowanego Qwen na samodzielnie hostowaną Dory, lub z powrotem, jest zmianą konfiguracji w jednym miejscu wywołania, a nie refaktoryzacją. Nie obsługujemy Dory; jesteśmy tanim sposobem na zmierzenie tego, co miałaby zastąpić.

Werdykt

Jeśli Twoje obciążenie jest multimodalne, wielojęzyczne lub wymagające dużej wiedzy — cokolwiek, gdzie model musi coś wiedzieć, a nie coś robić — Qwen3.8-27B jest odpowiedzią open-weight i porównanie nie ma tu konkurencji. Jest siedem razy większy, o dwie generacje nowszy, wspierany przez duży ekosystem pochodnych, działa na silnikach, które już go obsługują, a jego własna karta podaje wyniki, do których Dory nawet się nie zbliża na GPQA ani w benchmarkach instrukcji. Zamiast tego wynajmij Flash lub Max, jeśli wolisz w ogóle nie hostować modelu 27B.

Dory 1.0 4B to zakład na innej osi. Trud związany z budowaniem z gałęzi warto ponosić tylko wtedy, gdy w Twoim przypadku spełnione są trzy warunki: zadanie jest wyłącznie tekstowe i wyłącznie angielskojęzyczne, ma charakter agentowy, a nie oparty na wiedzy, oraz naprawdę używałbyś pokrętła mocy obliczeniowej — uruchamiając jedną pętlę pod obciążeniem, a cztery, gdy liczy się dokładność, z jednego checkpointu, bez drugiego pobierania. Karta tego modelu twierdzi, że ten zakład się opłaca w τ³-Bench i w podążaniu za instrukcjami na poziomie 4B, i ujawnia wystarczająco dużo o tym, jak powstały te liczby, abyś mógł je odpowiednio zdyskontować.

Rozstrzygnąłby to test, którego nikt nie przeprowadził: Dory 1.0 4B kontra Qwen3.8-27B na wspólnym środowisku testowym, przy tej samej kwantyzacji, na zestawie zadań agentowych. Tabela NVIDII całkowicie pomija obecną generację Qwen, a tabela Alibaby nie spogląda o klasę wagową niżej. Dopóki ktoś nie opublikuje tego porównania, właściwe stanowisko jest takie, że jeden z tych modeli to sprawdzony, wspierany, szeroko wdrożony 27B, a drugi to repozytorium 4B, które pojawiło się z dnia na dzień z ciekawym pomysłem w środku — a jedyną osobą, która może powiedzieć, czy ten pomysł jest wart zbudowania, jesteś ty, na swoim zestawie zadań.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.