NVIDIA Nemotron 3.5 Super VL wchodzi do sprzedaży: 120B otwartych wag, obietnica 5x szybkości i haczyk w postaci 249 GB

NVIDIA Nemotron 3.5 Super VL jest już dostępny, a specyfikacja, która powinna decydować o tym, czy się nim zainteresujesz, nie jest tą, od której zaczyna się ogłoszenie. Model to 120-miliardowy system wizyjno-językowy z 12 mld aktywnych parametrów, kontekstem 1 mln tokenów, natywnym dekodowaniem spekulatywnym i obsługą tekstu, obrazów, dokumentów oraz wideo. Wpis NVIDIA zapowiadający premierę jest datowany na 15 października 2026 r. i przedstawia go jako najszybszy otwarty model agentowy w swojej klasie — „nawet 5x szybsza przepustowość w porównaniu z innymi modelami w swojej klasie”, mierzona na tablicy liderów Artificial Analysis Intelligence Index. To, czego ten wpis nie stawia przed tobą, to fakt, że wydanie obejmuje dwa checkpointy, że różnica między nimi wynosi 174 GB VRAM i że mniejszy z nich płaci za tę oszczędność nierówno.

Co faktycznie zostało wydane 15 października

Dwie rzeczy wydarzyły się w różne dni, a różnica ma znaczenie, jeśli ustalasz datę wdrożenia. Wagi trafiły na Hugging Face 12 października o 15:32 UTC. Ogłoszenie nastąpiło 15 października. Własna karta modelu NVIDIA podaje datę wydania jako 10/15/2026 w wersji 1.0 GA, więc dostawca uznaje 15. za datę premiery; znaczniki czasu w repozytorium mówią co innego. Żadna z tych dat nie jest starsza niż tydzień, a obie są tak świeże, że nic dotyczące tego wydania nie miało jeszcze czasu zostać niezależnie odtworzone.

Wydanie jest szersze niż model, od którego nazwano ogłoszenie:

• Nemotron 3.5 Super VL — flagowiec, 120B łącznie / 12B aktywnych, w wersji BF16 i wersji NVFP4, obie opublikowane 12 października.

• Nemotron 3.5 Super VL Base — checkpoint sprzed post-trainingu, udostępniony obok wersji instruct, co ma znaczenie, ponieważ licencja pozwala Ci przeprowadzić własny post-training.

• Nemotron 3.5 Bolt 74B-A9B 24GB — model brzegowy, który mieści się w 24 GB dzięki natywnej kwantyzacji 2-bitowej, opublikowany 7 października.

• Nemotron 3.5 Bolt E4B 4GB — najmniejszy w rodzinie, datowany na 23 października.

Architektura to hybryda Mamba-2/Transformer typu Mixture-of-Experts z Multi-Token Prediction, 512 ekspertami routowanymi na warstwę MoE, enkoderem wizyjnym C-RADIO i łącznikiem wizyjno-językowym. Obsługa multimodalna obejmuje OCR, tabele, wykresy, dokumenty wielostronicowe i grounding wizualny; wideo jest przyjmowane w formacie MP4 do dwóch minut, próbkowane z częstotliwością 2 FPS i maksymalnie 256 klatek lub 1 FPS i 128 klatek przy 1080p. Licencja to OpenMDW-1.1, która według karty modelu jest gotowa do użytku komercyjnego lub niekomercyjnego — naprawdę permisywny zestaw warunków i rzeczywisty element tego, dlaczego to wydanie przyciągnęło uwagę.

Dwa punkty kontrolne i 174 GB między nimi

To tutaj wydanie staje się interesujące dla każdego, kto musi płacić za GPU. NVIDIA opublikowała ten sam model dwukrotnie, w dwóch precyzjach, a oba buildy nie są zbliżone rozmiarem. Obie poniższe liczby pochodzą z list plików repozytorium Hugging Face, które podają rozmiary poszczególnych shardów wag:

• Checkpoint BF16 — 248,94 GB w 63 shardach. Nagłówek safetensors określa liczbę parametrów na 124,45 miliarda.

• NVFP4 checkpoint — 75,06 GB w 88 shardach. Wnioskowanie działa w trybie W4A4 na Blackwellu, a w trybie W4A16 na wszystkim starszym.

• Sprzęt, pełna precyzja — karta NVIDIA wymienia 4× H100 lub 2× GB200 dla tekstu, obrazu i wideo.

• Sprzęt, skwantyzowany — 1× H200, 2× H100, 1× GB200 lub pojedynczy DGX Spark, przy czym ścieżka Spark wymaga draftującego modelu LiLiCorr do dekodowania spekulatywnego.

• Oszczędność — 173,88 GB, czyli około 3,3× mniej na dysku, oraz różnica między węzłem z czterema GPU a pojedynczym akceleratorem.

Czytaj to jako pytanie ekonomiczne, bo właśnie nim jest. Przejście z czterech H100 na jeden H200 nie jest decyzją o dostrajaniu; to różnica między modelem, który w tym kwartale możesz umieścić za produktem, a takim, którego nie możesz. Przepis kwantyzacji zastosowany przez NVIDIA jest też staranniejszy niż zwykle: enkoder wizyjny, konektor, konwolucje Mamba i embeddingi pozostają w BF16, router MoE pozostaje w FP32, a resztę uzyskuje się przez destylację świadomą kwantyzacji z modelu BF16, z dodatkowymi 200 iteracjami destylacji opartej na SFT.

Z czego rezygnuje skwantyzowana kompilacja

NVIDIA opublikowała zestawioną w pary tabelę porównującą oba punkty kontrolne przy zachowaniu wszystkich pozostałych ustawień bez zmian, co jest uczciwym sposobem przeprowadzenia tego porównania i rzadszym, niż powinno być. Pary poniżej to własne liczby NVIDIA, z karty modelu NVFP4, i nie wszystkie są w tym samym kierunku.

Gdzie skwantyzowana kompilacja przegrywa:

• Terminal-Bench 2.1 — 66,70 w BF16 wobec 60,80 w NVFP4. Spadek o 5,9 punktu, największa pojedyncza regresja w tabeli.

• WebVoyager, offline — 77,72 wobec 66,31. Spadek o 11,4 punktu w zadaniach z agentem przeglądarkowym.

• DeepSWE, offline — 24,65 wobec 18,20.

• MMLU-ProX — 76,91 wobec 73,76.

• tau3-bench banking — 18,88 wobec 17,78.

Gdzie zyskuje lub utrzymuje:

• GPQA-Diamond — 89,52 wobec 89,90.

• Lista finalistów APEX — 88,36 wobec 89,36.

• Wskaźnik halucynacji AA-Omniscience — 30,0 wobec 27,7, tj. skwantyzowana kompilacja halucynuje nieco rzadziej według własnego pomiaru NVIDII.

• tau2-bench telecom — 73,19 po obu stronach, identycznie.

• OCRBench v2 EN — 68,12 wobec 68,34.

• MMLongBench-Doc — 62,82 po obu stronach.

Ten wzorzec jest czytelny bez statystyka. Obciążenia związane z dokumentami, OCR i przywoływaniem wiedzy prawie się nie zmieniają, a niektóre z nich się poprawiają. Długohoryzontowe obciążenia agentowe zmieniają się bardzo mocno. Jeśli Twoja aplikacja odczytuje dokumenty urzędowe, paragony lub obrazy stron i zwraca ustrukturyzowane dane wyjściowe, tym, co powinieneś serwować, jest checkpoint 75 GB, a przy tym niemal niczego nie poświęcasz. Jeśli Twoja aplikacja jest agentem, który uruchamia terminal lub steruje przeglądarką przez dziesiątki kolejnych kroków, wymieniasz około dziewięciu procent Terminal-Bench na trzy czwarte rachunku za GPU, a to decyzja, którą warto podejmować na podstawie własnej ewaluacji, a nie tabeli dostawcy.

5x i to, względem czego jest mierzone

Najważniejszym przekazem NVIDII jest przepustowość i zasługuje ona na precyzyjne odczytanie, a nie na odrzucenie czy powtarzanie. Twierdzenie brzmi: „do 5 razy większa przepustowość w porównaniu z innymi modelami w swojej klasie”, a klasa nie została zdefiniowana we wpisie. Pomiar został wykonany przez NVIDIĘ, na stosie serwującym NVIDII, przy takiej współbieżności i mieszance sekwencji, jaką wybrał przepis — własne tabele wdrożeniowe karty modelu określają 32 współbieżne sekwencje oraz 5 lub 3 spekulacyjne tokeny robocze w zależności od sprzętu, a przepustowość w przypadku 20-turowego agentowego proxy to zupełnie inna liczba niż przepustowość w przypadku promptów jednorazowych.

Nic z tego nie czyni tego twierdzenia fałszywym. Czyni je to twierdzeniem dostawcy o obciążeniu skonfigurowanym przez dostawcę, co jest dokładnie tym, co mówi etykieta. Warto zauważyć, że w tym wydaniu nie ma przeciwwagi: nie opublikowano żadnego niezależnego pomiaru przepustowości tych checkpointów, więc jedyne liczby w obiegu pochodzą od NVIDIA. Wartość przepustowości bez nazwanego modelu bazowego, podanej współbieżności i podanej konfiguracji sprzętowej nie jest czymś, na podstawie czego można planować wydajność. Jeśli te 5x ma kluczowe znaczenie dla Twojej decyzji, odtwórz je na własnym ruchu, zanim podpiszesz rezerwację GPU.

Tam, gdzie model jest mocny, według własnej tabeli NVIDIA

Karta pojedynczego modelu zawiera też informacje o tym, jak checkpoint BF16 wypada na tle konkurencyjnych modeli, i warto przeczytać kolumny na prawo od kolumn samej NVIDIA, ponieważ również pochodzą od NVIDIA. W zestawieniu z Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small i GLM-5.3-Flash:

• Video-MME v2 — 32,85 w porównaniu z Qwen3.8-Flash-Next z wynikiem 45,1 i GLM-5.3-Flash z 14,8. Środek stawki i największy rozrzut ze wszystkich wierszy.

• OCRBench v2 EN — 68.12, mniej więcej na poziomie Qwen3.8-Flash-Next z wynikiem 67.9 i Qwen3.5-122B-A10B z wynikiem 68.3.

• Rozumowanie CharXiv — 80,82, za obydwoma modelami Qwen.

• MathVision — 78,16, za Qwen3.8-Flash-Next na poziomie 87,5.

• MMLU-ProX — 76,91, za każdą kolumną konkurencji w tym wierszu.

• wskaźnik halucynacji AA-Omniscience — 30,0 w porównaniu z Qwen3.5-122B-A10B na poziomie 84,5 i DeepSeek-V4-Flash na poziomie 95,9. W tym wierszu niższa wartość jest lepsza, a różnica nie jest mała.

• Terminal-Bench 2.1 — 66,70 w porównaniu z Qwen3.8-Flash-Next na poziomie 85,8 i GLM-5.3-Flash na poziomie 82,7.

• SWE-bench Verified — 71,10 wobec GLM-5.3-Flash z wynikiem 79,10.

• OSWorld-Verified — 51,14 w porównaniu z GLM-5.3-Flash na poziomie 14,78.

Taki układ wyników jest spójny z tym, do czego – jak twierdzi NVIDIA – model ma służyć. Nie jest liderem w czystym rozumowaniu ani kodowaniu i nie twierdzi, że nim jest – w ogłoszeniu pozycjonuje się go względem własnego największego modelu o około jednej piątej liczbie parametrów, a nie względem czołówki. Wypada dobrze w ograniczaniu halucynacji, ekstrakcji dokumentów i pracy jako agent desktopowy, plasuje się w środku stawki w przypadku wideo, a pozostaje w tyle w najtrudniejszych benchmarkach agentowych dla terminala. Jeśli trafiłeś na tę premierę, ponieważ w pierwszej linijce ogłoszenia pojawiło się „rozumienie wideo”, to właśnie liczbom dotyczącym wideo warto przyjrzeć się uważnie.

Ile kosztuje prowadzenie

Nie ma ceny katalogowej i nie jest to przeoczenie ze strony NVIDIA — taki jest kształt wydania z otwartymi wagami. NVIDIA nie sprzedaje tego modelu za token po publikowanej stawce; publikuje wagi na licencji OpenMDW-1.1 oraz kontener NIM ze zwalidowanymi konfiguracjami, a płacisz za GPU. Zatem pytanie o koszt to pytanie o godziny GPU, a dwie akceptowalne odpowiedzi to 4× H100 dla BF16 albo jeden H200, albo pojedynczy DGX Spark dla NVFP4.

To jest ta część arytmetyki, którą większość zespołów myli, gdy porównuje model otwarty z hostowanym API. Strona hostowana podaje stawkę za token, która już zawiera czyjąś krzywą wykorzystania. Strona otwarta podaje checkpoint i minimalną listę sprzętową, a rzeczywista liczba zależy w całości od tego, czy potrafisz utrzymać GPU w ciągłym użyciu. Pojedynczy H200 uruchamiający checkpoint 75 GB, który obsługuje jeden wewnętrzny workflow kilkaset razy dziennie, jest nieporównywalnie droższy na wywołanie niż ten sam checkpoint we współdzielonym wdrożeniu. Wynajmij, zanim kupisz, i mierz tokeny na sekundę na własnych promptach, a nie na obciążeniu zastępczym.

Wypróbowanie tego, zanim postawisz na to produkt

Uczciwym pierwszym krokiem w przypadku modelu, którego dokumentacja ma zaledwie dzień, jest ewaluacja, a nie migracja — i właśnie tam gateway wykonuje prawdziwą pracę, a nie retoryczną. Jeden klucz obejmujący ponad 200 modeli w cenie katalogowej dostawcy z 0% marży oznacza, że porównanie, którego naprawdę chcesz — Nemotron 3.5 Super VL z modelem tekstowym lub wizyjnym, którego używasz dziś — to zmiana ciągu modelu, a nie druga relacja z dostawcą, a automatyczne przełączanie awaryjne między dostawcami oznacza, że obciążenie, które dopiero testujesz, może działać obok ruchu produkcyjnego, bez zależności jednego od drugiego. Ma to tu większe znaczenie niż zwykle: oba checkpointy zachowują się wystarczająco różnie w pracy agentowej, że użyteczny eksperyment to nie „czy ten model jest dobry”, lecz „która z tych dwóch kompilacji, na którym z moich benchmarków, przy jakim koszcie GPU”.

Sekwencja, która pozwala uniknąć marnowania miesiąca GPU: najpierw wybierz obciążenie oparte na dokumentach, bo właśnie tam różnica między BF16 a NVFP4 jest najmniejsza i gdzie same liczby modelu wypadają najlepiej. Uruchom je na mniejszym checkpoincie. Oceń je względem ewaluacji, którą sam napisałeś. Dopiero potem zdecyduj, czy obciążenia agentowe — te, w których skwantyzowana wersja traci 5,9 punktu na Terminal-Bench i 11,4 na WebVoyager — uzasadniają wersję 249 GB i cztery GPU.

Co wciąż pozostaje bez odpowiedzi

Trzy luki są warte obserwacji, ponieważ zmieniają decyzję, a nie marketing.

Pierwsza to niezależna ewaluacja. Każda liczba w tym artykule, która pochodzi od NVIDIA, jest tak oznaczona, a w tym wydaniu to wszystkie z nich. Żadna strona trzecia nie opublikowała pomiaru przepustowości, reprodukcji dokładności ani porównania harnessu ewaluacyjnego dla żadnego z tych checkpointów. Twierdzenie o 5-krotnym wzroście przepustowości i powiązana tabela kwantyzacji są wewnętrznie spójne i najwyraźniej przygotowane starannie, ale pozostają danymi zgłoszonymi przez dostawcę i nieodtworzonymi. Traktuj je jako górną granicę, dopóki ktoś spoza NVIDIA nie opublikuje tych samych eksperymentów.

Drugi to ścieżka wideo. Model obsługuje MP4, a ogłoszenie wysuwa na pierwszy plan rozumienie wideo, ale w jedynym benchmarku wideo w tabeli samej NVIDIA wypada na 32,85, podczas gdy Qwen3.8-Flash-Next ma 45,1. Dane treningowe obejmowały wideo od 10 000 do miliona godzin, co jest szerokim zakresem i nie mówi nic o gęstości ani domenie. Jeśli wideo jest twoim przypadkiem użycia, to jest wiersz, który należy przetestować jako pierwszy i wiersz, który najprawdopodobniej rozczaruje prezentację zakupową zbudowaną na podstawie ogłoszenia.

Trzeci to bazowy checkpoint. Jego publikacja na tej samej licencji to część tego wydania z najdłuższym ogonem, ponieważ pozwala zespołowi z własnymi danymi przeprowadzić post-training, zamiast obchodzić promptowaniem model dostawcy. Własny korpus NVIDII do post-trainingu dla tej rodziny również jest otwarty, a wielkości efektów w raporcie NVIDII sięgają dziesiątek punktów wewnątrz środowiska testowego NVIDII. Nikt jeszcze nie opublikował wiarygodnego niezależnego fine-tune'u na tym bazowym checkpoincie. Gdy ktoś to zrobi, powie to więcej o prawdziwym pułapie tego modelu niż wpis zapowiadający premierę.

Wagi można pobrać już dziś, a licencja pozwala na ich komercyjne wykorzystanie. Dwie rzeczy, których nie da się pobrać, to niezależny benchmark oraz wskaźnik przepustowości z nazwanym punktem odniesienia — a jedno i drugie jest tym, czego potrzebowałbyś, zanim oprzesz ścieżkę produkcyjną na modelu, który ma obecnie cztery dni.