Nemotron 3.5 Super VL dorównuje Inkling Small przy mniej niż połowie wag

Two models sit on 26 on the Artificial Analysis Intelligence Index this week, and the interesting part is what each one spent to get there. NVIDIA Nemotron 3.5 Super VL is a 120-billion-parameter mixture of experts with 12 billion active. Inkling Small, Thinking Machines' July release, is a 266-billion-parameter mixture of experts with 12 billion active. Same score, same active budget, less than half the weights on disk. Benchmark tables say what a model scores; the incident record says how releases like these fail in production, and those cases are catalogued in the OrcaRouter AI Incident Archive where each entry carries its own sources, severity, confidence grade and disputed flag.

Taki był kształt zeszłego tygodnia w amerykańskich otwartych wagach i to lepsza historia niż wpis premierowy, który NVIDIA opublikowała w czwartek 15 października. Ogłoszenie zestawiło Nemotron 3.5 Super VL z Nemotron 3.5 Bolt 74B-A9B 24GB — model o 74 miliardach parametrów wciśnięty w 24 GB pamięci — i zapowiadało trzeci, Nemotron 3.5 Bolt E4B 4GB, na 23 października. Trzy modele w osiem dni przy trzech rozmiarach pamięci to nie jest rytm premier; to argument za portfolio, a argument brzmi: wydajność na gigabajt jest teraz liczbą, która się liczy.

Co zostało wysłane i w którym dniu

Warto podać te daty precyzyjnie, ponieważ własne artefakty NVIDIA różnią się o trzy dni, a ta rozbieżność jest pouczająca, a nie skandaliczna.

• Wagi — repozytorium BF16 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 utworzono na Hugging Face 2026-10-12T15:32:06Z; jego odpowiednik NVFP4 powstał 24 sekundy później, a bazowy checkpoint przed post-trainingiem — 17 sekund wcześniej.

• Ogłoszenie — wpis w newsroomie NVIDIA ma datę publikacji 15 października 2026. Pole wydania w karcie modelu wskazuje 10/15/2026 przy wersji 1.0 GA.

• Bolt 74B — jego 24 GB repozytorium znacznie wyprzedza ogłoszenie, powstało 7 października, a build GGUF pojawił się na Hub tego wieczoru. Blog przedstawia go jako udostępniany wraz z Super VL 15.

• Bolt E4B — zapowiedziany na 23 października, w chwili pisania nie podano jeszcze wag.

A więc publiczne artefakty pojawiły się przed publiczną prozą. Każdy, kto datuje wdrożenie na podstawie komunikatu prasowego, spóźni się o trzy dni względem modelu, który był już do pobrania, a każdy, kto datuje je na podstawie repozytorium, będzie cytować znacznik czasu, którego NVIDIA nigdy nie potwierdziła. Oba podejścia są do obrony; zapis „wydano 15 października” bez wzmianki o 12. jest wersją, która gubi informację.

Wynik to nudna część. Mianownik to cała historia.

Hasło NVIDIA dotyczące Super VL to szybkość — „do 5 razy większa przepustowość w porównaniu z innymi modelami w swojej klasie”, przypisywane rankingowi Artificial Analysis. To twierdzenie wciąż jest częściowo niezweryfikowane, a poniższa sekcja się nim zajmuje. Trwały fakt dotyczący tego wydania jest inny: model uzyskuje 26 punktów na tym samym panelu, na którym jego marcowy poprzednik, NVIDIA Nemotron 3 Super 120B A12B, osiągnął 13 — i robi to przy praktycznie identycznym rozmiarze.

• Parametry — łącznie 120B, 12B aktywnych, 512 ekspertów routowanych na warstwę MoE. Model z marca miał łącznie 120,6B i 12,7B aktywnych. To nie jest większy model.

• Indeks Inteligencji — 26 wobec 13, według Artificial Analysis, oba oznaczone jako nieoszacowane. Mniej więcej dwukrotnie, przy tym samym budżecie parametrów.

• Tokeny wyjściowe na zadanie w Index — około 49 000 wobec około 114 000. Nowy model kończy tę samą ewaluację zużywając około 57% mniej tokenów, co odpowiada za dużą część skoku: przestaje nadmiernie myśleć.

• W zestawieniu z Inkling Small — oba po 26. Super VL osiąga to przy 120B łącznie wobec 266B w Inkling Small, a oba aktywują około 12B na token.

• W porównaniu z Nemotron 3 Ultra 550B A55B — 23. Nowy średniej wielkości model NVIDIA przewyższa swój własny flagowy model z 550 miliardami parametrów o trzy punkty, będąc przy tym około cztery razy mniejszym.

Dwie osie efektywności są ciągle mylone, więc warto je rozdzielić. Parametry aktywne określają, ile kosztuje wygenerowanie tokena. Parametry całkowite określają, ile kosztuje przechowywanie, wczytywanie i utrzymywanie checkpointu w pamięci. Super VL poprawia obie: utrzymuje parametry aktywne na stałym poziomie 12B, jednocześnie zmniejszając parametry całkowite mniej więcej o połowę względem Inkling Small, oraz utrzymuje parametry całkowite na stałym poziomie 120B, jednocześnie mniej więcej podwajając swój wynik względem własnego poprzednika. Model, który poprawiłby tylko jedną oś, nadal byłby godny uwagi. Ten poprawił obie w tym samym wydaniu.

Bolt to cichsza połowa wydania i nie ma niezależnej oceny

Model 24 GB to ten, który większość zespołów mogłaby faktycznie uruchomić na sprzęcie, który posiada. Nemotron 3.5 Bolt 74B-A9B 24GB to 74-miliardowy model mieszaniny ekspertów z 9 miliardami aktywnych parametrów, skwantyzowany do około 2,06 bita na eksperta podczas treningu, a nie po nim, z kontekstem 262 144 tokenów i tymi samymi warunkami OpenMDW-1.1 co jego większy brat. Jest hybrydą Mamba-2 i Transformera z enkoderem wizyjnym C-RADIO v4-H, więc przyjmuje tekst, obrazy i wideo, a zwraca tekst.

Karta NVIDII podaje, na własnym stanowisku testowym: GPQA-Diamond 86,43, HLE bez narzędzi 25,30, Terminal-Bench 2.1 50,98, SciCode 41,02, BrowseComp 66,75, PinchBench 87,82 i WebArena vision 50,86. Każdy z tych wyników został uzyskany przez dostawcę i nie został odtworzony. Na niezależnym panelu model plasuje się na poziomie 21 — to naprawdę mocny wynik jak na coś, co mieści się na jednej karcie 24 GB, a zarazem przypomnienie, by ostrożnie podchodzić do tabeli dostawcy, ponieważ 86,43 w GPQA-Diamond obok ogólnego indeksu 21 zachęca do nadinterpretacji pojedynczego wiersza.

Rozkład pobrań mówi sam za siebie: kompilacja GGUF modelu Bolt zgromadziła ponad 87 000 pobrań, podczas gdy repozytorium BF16 Super VL ma ich około 18 700. Model, który można uruchomić na laptopie, to model, który ludzie pobierają. Nie jest to komentarz na temat jakości; to komentarz na temat tego, czemu właściwie służą „otwarte wagi”.

Gdzie tak naprawdę plasuje się USA

Wzrost wydajności jest realny, a twierdzenie o przywództwie wymaga zastrzeżenia, którego wpis NVIDIA nie zawiera. Wśród modeli open-weight z amerykańskich laboratoriów w niezależnym panelu Meta Muse Spark Open uzyskuje wynik 39 i wyprzedza wszystko, co NVIDIA wydała w zeszłym tygodniu. Dostęp do niego na Hubie jest również ograniczony specjalną licencją komercyjną, co plasuje go w innej kategorii wdrożeń niż checkpoint, który można pobrać na licencji OpenMDW-1.1, nie pytając nikogo o zgodę.

• Muse Spark Open — 39, z ograniczonym dostępem, licencja dedykowana.

• Nemotron 3.5 Super VL — 26, bez ograniczeń, OpenMDW-1.1, łącznie 120B / 12B aktywnych.

• Inkling Small — 26, permisywna, 266 mld łącznie / 12 mld aktywnych.

• Nemotron 3.5 Bolt 74B-A9B — 21, bez ograniczeń dostępu, zajętość 24 GB.

• GPT-5.5 Instant — 26, zamknięte.

Chińska scena modeli otwartych to wciąż inna rozmowa. MiMo-V2.6-Pro ma 46, GLM-5.3 — 45, a Kimi K3 — 44 w tym samym panelu, więc najmocniejszy amerykański model na licencji permisywnej jest około 20 punktów za najmocniejszym chińskim. Odpowiedzią NVIDII na tę lukę nie jest większy model — jest nią dostrajanie po treningu na własnych danych, wraz ze zbiorami danych, recepturami i środowiskami uczenia ze wzmocnieniem publikowanymi razem z wagami. Czy to cokolwiek zamyka, to pytanie, którego to wydanie nie rozstrzyga, a każdy, kto twierdzi inaczej, dopatruje się intencji w benchmarku.

Co jest mierzone, co się twierdzi i co ruszyło w tym tygodniu

W momencie premiery twierdzenie o 5x przepustowości nie miało nic na poparcie: Artificial Analysis wymieniał model bez jakiejkolwiek liczby dotyczącej szybkości. To się zmieniło. Panel odnotowuje teraz szybkość generowania wynoszącą około 430 tokenów na sekundę, co daje pierwsze miejsce spośród 28 w jego zestawie porównawczym. Część tego twierdzenia ma więc teraz potwierdzenie z drugiej strony: model jest szybki, i to nie marginalnie. Niezweryfikowana pozostaje krotność. „5x szybszy niż następny najlepszy” wymaga wskazania następnego najlepszego i pasującego harnessu, a ani wpis na blogu, ani karta modelu nie dostarczają jednego.

Obraz cen również się zmienił — i to w sposób, który ma większe znaczenie niż sam wskaźnik nagłówkowy.

• Mediana u dostawców — 0,225 USD za milion tokenów wejściowych i 0,575 USD za milion tokenów wyjściowych, z 78% zniżką za cache, według Artificial Analysis.

• Rozpiętość wśród dostawców, którzy publikują stawkę — wejście od $0.10 do $0.20, wyjście od $0.40 do $0.50 za ten sam checkpoint.

• Koszt zadania Index — 0,19 USD, czyli miejsce, w którym spotykają się niska cena i wysoka liczba tokenów.

• Rozwlekłość — 170 mln tokenów wyjściowych zużytych podczas przebiegu Index w porównaniu z medianą wynoszącą 100 mln, oznaczona jako nieco zbyt rozwlekła. Tanie dane wyjściowe w połączeniu z długimi danymi wyjściowymi nie oznaczają automatycznie taniości.

Czterokrotna różnica w cenie wejściowej za identyczne wagi to praktyczny wniosek tego tygodnia. Model to wszędzie ten sam plik; licznik już nie. To argument za traktowaniem wyboru dostawcy jako decyzji o routingu, a nie o zakupie — i właśnie tego dotyczy nasz własny produkt, a uczciwa wersja tego twierdzenia jest wąska. Nemotron 3.5 Super VL nie ma w naszym katalogu: lista modeli OrcaRouter zwraca nieco ponad 200 identyfikatorów modeli i dziś żadnej pozycji NVIDIA. Router jest tu wart tyle, że w momencie pojawienia się checkpointu trafia on do oferty w cenie katalogowej dostawcy z 0% marży, a tak nowy model może stać za automatycznym przełączaniem awaryjnym, zamiast u podstawy ścieżki produkcyjnej. Żadne z tego nie jest powodem, by kupić model. To powody, by nie podpisywać umowy, żeby go wypróbować.

Trzy rzeczy, na które warto zwrócić uwagę, a jedna z nich jest już za dziewięć dni

Pierwszym z nich jest Bolt E4B, 23 października. Model wizyjno-językowy o rozmiarze 4 GB, który uzyskuje wyniki choćby zbliżone do swojego 24-gigabajtowego odpowiednika, byłby najbardziej doniosłym z tych trzech wydań, ponieważ zmienia to, jaki sprzęt uznaje się za wystarczający.

Drugi to niezależna ocena skwantyzowanych checkpointów. Każda liczba w tym artykule pochodząca od NVIDIA została zmierzona w kompilacji pełnej precyzji lub z użyciem harnessu dostawcy. Plik NVFP4 to ten, który większość ludzi będzie faktycznie serwować, i nie ma opublikowanego wyniku strony trzeciej. Twierdzenie samego NVIDIA to mediana odzysku dokładności na poziomie 99,62% względem BF16 — wartość dostawcy, na harnessie dostawcy, i pojedyncza najbardziej obciążająca niezweryfikowana liczba w wydaniu.

Trzecia kwestia to, czy rozpiętość cen się zmniejsza. Dwukrotna różnica między najtańszym a najdroższym serwerem dla jednego otwartego checkpointu oznacza rynek, który jeszcze się nie ustabilizował, a kierunek, w którym się ustabilizuje, powie więcej o kolejnych sześciu miesiącach wnioskowania na otwartych wagach niż jakikolwiek pojedynczy wiersz benchmarku.

Wynik to nagłówek. O połowę mniejszy checkpoint z tym samym budżetem aktywnych parametrów to rzecz, która będzie miała znaczenie jeszcze za rok.