NVIDIA Nemotron Labs Dory 1.0 4B kontra Gemma 4 12B: trzykrotnie więcej parametrów, ale zupełnie inne zadanie

Najoczywistszym sposobem odczytania porównania między NVIDIA Nemotron Labs Dory 1.0 4B a Gemma 4 12B jest potraktowanie go jako pojedynku na rozmiar — 4B przeciw 12B, mały przeciw średniemu — ale takie ujęcie marnuje to porównanie, ponieważ oba modele nie przyjmują tych samych danych wejściowych, nie mają takiego samego podejścia do licencji i nie przyspieszają w ten sam sposób. Dory to jedynie tekstowa, wyłącznie angielska sieć z pętlami, której cechą definiującą jest to, że jedno pobranie obsługuje kilka budżetów obliczeniowych. Gemma 4 12B to multimodalny model any-to-any, który przyjmuje tekst, obrazy i dźwięk przez pojedynczy stos bez enkodera i zwraca tekst. Różnica w liczbie parametrów jest realna, ale to najmniej informująca różnica między nimi. Oto, co tak naprawdę je odróżnia, w tym części, w których nikt jeszcze nie przeprowadził eksperymentu.

Czym jest każde z nich, w jednym przebiegu

N​VIDIA N​emotron Labs Dory 1.0 4B to gęsty model 4B wytrenowany przez N​VIDIA i opublikowany na Hugging Face w czterech kwantyzacjach — BF16, MXFP8, NVFP4 oraz Q5_K_M GGUF — na licencji OpenMDW 1.1. Jego karta modelu wskazuje kompilację „GA (10/16/2026)”. Obsługuje tekst na wejściu i tekst na wyjściu, wyłącznie po angielsku, z kontekstem do 256K tokenów. Najważniejsza jest architektura: 20-warstwowy blok rekurencyjny stosowany zmienną liczbę razy między 8-warstwowym blokiem wejściowym a 8-warstwowym blokiem wyjściowym, dzięki czemu liczba pętli staje się parametrem czasu obsługi, a nie decyzją podjętą na etapie trenowania. N​VIDIA zaleca dwie pętle jako domyślne, a cztery, gdy większe znaczenie ma dokładność w zastosowaniach agentowych. Nic o wydaniu nie ogłoszono; repozytoria zapełniono z dnia na dzień, a dostawca nie opublikował żadnego towarzyszącego wpisu.

Gemma 4 12B to gęsty model multimodalny Google DeepMind o 11,95 mld parametrów, na licencji Apache 2.0, z kontekstem 256K, 48 warstwami z hybrydową uwagą i przesuwnym oknem 1024 tokenów oraz słownikiem 262K. Jest opisywany jako model bez enkoderów: fragmenty obrazów i przebiegi fal dźwiękowych są rzutowane bezpośrednio na przestrzeń osadzeń modelu językowego, a nie przez oddzielne enkodery wizji i dźwięku. Tekst, obraz i dźwięk na wejściu; tekst na wyjściu. Wideo jest obsługiwane jako próbkowane klatki, przy czym karta ogranicza dźwięk do około 30 sekund, a wideo do około 60 sekund przy mniej więcej jednej klatce na sekundę. Obsługuje konfigurowalne tryby myślenia i natywną rolę systemową, a od połowy 2026 roku jest publicznie dostępny i szeroko pobierany.

Warto poczynić jedno wyjaśnienie, zanim pojawi się jakakolwiek liczba: Dory jest dostępny w czterech wariantach, a ten, którego identyfikator repozytorium jest najczęściej podawany, to kompilacja MXFP8, ale benchmarki opublikowane przez NVIDIA zostały zmierzone na BF16. Checkpoint MXFP8 to kwantyzacja tych samych wag, a nie inny model.

Problem z benchmarkiem: te dwa nigdy nie zostały ze sobą porównane.

To jest ta część, którą artykuł porównawczy zwykle pomija milczeniem, więc warto powiedzieć to wprost. Nie ma wspólnego wyniku testowego dla Dory 1.0 4B i G​emma 4 12B. Tabela benchmarków N​VIDIA dla Dory porównuje ją z Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B i Qwen3.6-35B-A3B — sięga po 26B G​emma, a nie po 12B, i w ogóle nie obejmuje 12B. Opublikowane przez G​oogle wyniki dla 12B pochodzą z innego środowiska testowego, wobec innego zestawu porównawczego, w dokumencie opublikowanym miesiące wcześniej i obejmującym inny zestaw zadań.

Zestawienie liczb z obu kart obok siebie tworzy tabelę, która wygląda autorytatywnie i nic nie znaczy, ponieważ dwupunktowa różnica między dwoma zestawami testowymi nie jest dwupunktową różnicą między dwoma modelami. Uczciwa wersja jest więc taka: własna karta Dory deklaruje mniej więcej zachowanie agentowe klasy Qwen3.5-9B przy czterech pętlach, podczas gdy Dory ustępuje wszystkim swoim własnym modelom porównawczym w benchmarkach wymagających dużej wiedzy, natomiast karta G​emma 4 12B deklaruje profil multimodalny z oknem 256K i warianty dostrojone instrukcyjnie w całej linii G​emma 4. To, czy którekolwiek z tych twierdzeń przetrwa zetknięcie z zestawem zadań drugiego, pozostaje nieprzetestowane.

Tam, gdzie faktycznie się pokrywają, i tam, gdzie pokrywanie się kończy

Cztery wymiary mają znaczenie dla prawdziwej decyzji, a one wskazują w różnych kierunkach.

• Modalność — G​emma 4 12B obsługuje tekst, obrazy i dźwięk. Dory 1.0 4B obsługuje tekst. To nie jest luka w benchmarku, którą mógłby zamknąć jakikolwiek zestaw testowy; to zdolność, którą jeden model ma, a drugi nie ma, a jeśli w twoim obciążeniu znajduje się gdziekolwiek zrzut ekranu, zeskanowana strona lub klip głosowy, porównanie jest już rozstrzygnięte.

• Język — Dory obsługuje wyłącznie język angielski. Linia G​emma 4 jest wielojęzyczna, a jej karta 12B zawiera wielojęzyczne wyniki oceny i mowy, w tym benchmarki tłumaczeniowe dla języków innych niż angielski. Obecność drugiego języka gdziekolwiek w środowisku produkcyjnym wyklucza Dory.

• Kontekst — oba reklamują 256K i to jest jedyne miejsce, w którym specyfikacje naprawdę się zgadzają. Karta modelu Dory mówi, że 262 144 pozycji jest walidowanych w vLLM w ramach dostarczonego polecenia uruchomienia; G​emma 4 12B podaje 256K z oknem przesuwnym o rozmiarze 1024 tokenów wewnątrz hybrydowego stosu uwagi. Dla modelu G​emma istnieje opublikowana ewaluacja długiego kontekstu; dla modelu Dory jedynym wierszem dotyczącym długiego kontekstu jest wiersz samej N​VIDIA, zmierzony z poprawionymi kluczami odpowiedzi i starszym modelem sędziowskim, co karta ujawnia.

• Zachowanie obliczeniowe — to asymetryczna przewaga Dory i nie ma nic wspólnego z jakością. Gemma 4 12B to konwencjonalny gęsty model: stała głębokość, stały koszt na token, skalowanie sprzętu albo skrócenie kontekstu, żeby zmienić rachunek. Głębokość Dory jest parametrem czasu wykonania. Uruchom go z jedną pętlą, gdy ograniczeniem jest opóźnienie, a z czterema, gdy liczy się dokładność — bez pobierania drugiego checkpointu. NVIDIA dostarcza również tryb buforowania KV ostatniej pętli, którego zadaniem jest utrzymywanie rozmiaru pamięci podręcznej na poziomie mniej więcej rozmiaru jednej pętli niezależnie od liczby pętli, co — jeśli się potwierdzi — usuwa standardowy zarzut wobec architektur rekurencyjnych. To twierdzenie z karty, które najbardziej zasługuje na niezależne sprawdzenie.

• Licencja — OpenMDW 1.1 dla Dory, Apache 2.0 dla Gemma 4 12B. Obie zezwalają na użycie komercyjne. Jeśli Twój przegląd prawny uznaje Apache 2.0 za ścieżkę najmniejszego oporu, Gemma ma na starcie przewagę, która nie ma nic wspólnego z wagami.

Uruchamianie ich: jedno to rutyna, drugie to build

G​emma 4 12B to standardowy plik do pobrania o architekturze rodziny L​lama. Jest w formacie Transformers, działa na silnikach, które już masz, a skwantyzowane wersje — warianty QAT GGUF i w4a16 — udostępniono publicznie wkrótce po premierze samego modelu.

Dory 1.0 4B nie jest jeszcze gotowy i karta mówi o tym wprost. Wsparcie dla vLLM widnieje jako „w trakcie przeglądu” w otwartym pull requeście; dopóki nie zostanie scalony, instalujesz vLLM z tej gałęzi z flagą prekompilowanych jąder, a następnie przekazujesz nadpisania liczby pętli i pamięci podręcznej KV w czasie serwowania. Wsparcie dla llama.cpp znajduje się w drugim otwartym pull requeście, a NVIDIA przypina konkretny commit, a nie przesuwający się HEAD, co jest właściwym wyborem w konfiguracji referencyjnej, ale wciąż oznacza budowanie ze źródeł. Nigdzie nie możemy zweryfikować hostowanego endpointu dla Dory — ani od NVIDII, ani od nikogo innego — a liczniki pobrań we wszystkich czterech repozytoriach Dory wciąż wynosiły zero, gdy to pisano. Z kolei Gemma 4 12B została pobrana znacznie ponad milion razy w ciągu ostatniego miesiąca i ma ekosystem fine-tuningów i kwantyzacji zbudowany na jej podstawie. Ta luka w dojrzałości jest dla większości zespołów większa niż jakakolwiek różnica w benchmarkach na którejkolwiek z kart.

Konkrety sprzętowe są skąpe po obu stronach. Jedyne opublikowane przez NVIDIA wartości szybkości Dory to przyspieszenia kwantyzacji na DGX Spark — 1,69× i 1,84× dla MXFP8 w porównaniu z BF16, w zależności od mieszanki wejścia/wyjścia, 2,17× i 2,44× dla NVFP4 — a nie wartości przepustowości. W przypadku Gemma 4 12B odpowiedź na właściwe pytanie — ile VRAM przy danej długości kontekstu — wynika z całorocznych pomiarów społeczności, a nie z karty.

Tam, gdzie w grę wchodzi router, szczerze mówiąc.

Żaden z tych modeli nie jest przez nas obsługiwany, a powiedzenie tego wprost jest bardziej użyteczne niż sugerowanie czegoś przeciwnego. NVIDIA Nemotron Labs Dory 1.0 4B nie znajduje się w katalogu OrcaRouter i nie ma nigdzie hostowanego punktu końcowego; Gemma 4 12B również nie znajduje się w katalogu, choć jej więksi krewni google/gemma-4-26b-a4b-it i google/gemma-4-31b-it już tak.

Co z tego zostaje, to praktyczny kształt tej decyzji. Jeśli wybierasz między modelem 4B, który musisz hostować samodzielnie, a modelem 12B, który możesz wynająć, strona samodzielnego hostingu niesie ze sobą rachunek za GPU i obciążenie operacyjne, których strona wynajmowana nie ma, a jedynym sposobem, by uczciwie to wycenić, jest uruchomienie obu na własnym zestawie zadań. OrcaRouter jest przydatny w tej połowie tego eksperymentu, która jest hostowana: jeden klucz API dociera do modeli Google o otwartych wagach, które rzeczywiście oferujemy, w cenie katalogowej dostawcy z 0% marży, więc porównanie nie wymaga drugiej umowy ani drugiego SDK. Automatyczne przełączanie awaryjne obejmuje okno, w którym Twoja własna pula GPU jest przeciążona w trakcie testu porównawczego, a DSL routingu pozwala, by wywołanie self-hosted i wywołanie hostowane znalazły się za jednym punktem końcowym, więc przejście na drugą stronę to zmiana konfiguracji, a nie przepisywanie kodu. Nic z tego nie mówi, który model wygrywa. Usuwa wymówkę, by tego nie sprawdzić.

Więc który?

Jeśli Twoje zadanie jest wyłącznie tekstowe, wyłącznie angielskojęzyczne i długokontekstowe, a zwłaszcza jeśli ma charakter agentowy — wywołania narzędzi, wieloetapowe przepływy pracy, ustrukturyzowane wyjście — Dory 1.0 4B jest ciekawszym zakładem i tym, którego architektura daje ci coś, czego 12B nie może zaoferować: suwak mocy obliczeniowej. Podejmij ten zakład z otwartymi oczami, mając świadomość luki w dojrzałości, dwóch niezmergowanych pull requestów, całkowitego braku niezależnej ewaluacji oraz tego, że jego własna karta umieszcza go za każdym porównywanym modelem w GPQA i HLE.

Jeśli Twoje zadanie obejmuje obraz, dźwięk, drugi język lub termin produkcji w ciągu najbliższego miesiąca, G​emma 4 12B jest odpowiedzią, a porównanie nigdy nie było nawet blisko. To większy, droższy i bardziej wszechstronny model, za którym stoi ekosystem, a przed którym nie ma żadnego etapu budowania.

Nie chodzi o liczbę z benchmarku — chodzi o to, czy pull requesty do vLLM i llama.cpp zostaną scalone. W dniu, w którym Dory będzie ładować się z wydanego pliku binarnego, a nie z gałęzi, strona tego porównania związana z self-hostingiem przestaje być projektem, a staje się zmianą konfiguracji. Do tego czasu uczciwy werdykt brzmi: jeden z tych modeli jest produktem, a drugi to repozytorium, które pojawiło się z dnia na dzień, a to, który z nich chcesz, zależy wyłącznie od tego, czy wdrażasz, czy testujesz.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.