NVIDIA Nemotron 3.5 Super VL Base BF16: checkpoint o rozmiarze 249 GB, który NVIDIA wymieniła, ale nigdy nie podlinkowała

nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 to artefakt w wydaniu N​VIDIA N​emotron 3.5 Super VL, którego NVIDIA nigdy nie podlinkowała. Firmowy wpis ogłaszający z 15 października mówi w jednym zdaniu, że „wydanie obejmuje bazowe, po treningu i skwantyzowane do NVFP4 punkty kontrolne wraz z przepisami treningowymi, danymi i środowiskami uczenia ze wzmocnieniem”. Każdy link do repozytorium na tej stronie wskazuje na nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4. Ciąg „Base-BF16” nie pojawia się w tym poście w ogóle.

Repozytorium jest prawdziwe i publiczne. Hugging Face odnotowuje jego początkowy commit na 2026-10-12T15:31:49Z, jego shardy wag przesłane na 2026-10-13T04:55Z oraz własne pole daty wydania w jego karcie modelu o treści „Hugging Face - 10/15/2026”. Nie jest ograniczone dostępem, nie wymaga tokena do pobrania i waży dokładnie tyle, ile waży post-treningowa nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 wersja: 248,9 GB w 63 shardach BF16 wobec 248,9 GB w 64 shardach wersji po treningu, a dwa pliki indeksu różnią się o 16 bajtów. Trzy dni po pojawieniu się wag zostało pobrane 4 razy, wobec 142 dla repozytorium pełnej precyzji po treningu i 81 dla bliźniaka NVFP4. To własne liczniki Hugging Face, odczytane 16 października.

Więc to nie jest przeciek ani plotka. Wagi to niewłaściwa rzecz, w której można się mylić — są po prostu najmniej nagłośnionym artefaktem w wydaniu, które poza tym jest głośne, a karta modelu, która za nimi stoi, przeczy sama sobie w sposób, który ma znaczenie, jeśli jesteś typem osoby, która pobrałaby checkpoint przed post-trainingiem o rozmiarze 249 GB. Ta sprzeczność znajduje się poniżej.

Co wylądowało i zdanie, które o tym wspomina

Trzy główne repozytoria i jeden drafter pojawiły się w tym samym oknie czasowym, wszystkie należące do N​VIDIA, wszystkie na licencji OpenMDW-1.1, żadne nie mają ograniczonego dostępu:

• Bazowy BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16, repozytorium utworzono 2026-10-12T15:31:49Z, wagi 2026-10-13T04:55Z, README ostatnio zmodyfikowano 2026-10-15T15:22:08Z.

• BF16 po treningu — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, utworzono 2026-10-12T15:32:06Z, siedemnaście sekund po repozytorium bazowym.

• NVFP4 po dostrajaniu — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, utworzony 2026-10-12T15:32:30Z, o łącznym rozmiarze 75,1 GB zamiast 248,9 GB.

• Drafter NVFP4 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, utworzony jeszcze dzień wcześniej, o 2026-10-11T20:20:59Z.

To, jak te repozytoria przekładają się na teksty N​VIDII, jest właśnie tym, co bywa niejednolite, i warto to sprawdzić, a nie zakładać. Wszystkie kotwice wdrożeniowe z ogłoszenia prowadzą do kompilacji NVFP4. Sama karta bazowa w swojej notce otwierającej odsyła na zewnątrz do dwóch pozostałych — „Szukasz modelu po treningu? Zobacz wydanie BF16 do dostosowywania lub wydanie NVFP4 do zoptymalizowanego wdrożenia” — więc repozytorium bazowe w pierwszej linii powie ci, gdzie się zamiast tego udać. Odwrotność nie zachodzi. Karta BF16 modelu po treningu nie zawiera nigdzie odnośnika do repozytorium bazowego, podobnie jak karta NVFP4. Checkpoint bazowy to jedyny artefakt w wydaniu, do którego własna dokumentacja N​VIDII nigdy cię nie kieruje; znajdujesz go, czytając dziewięciowyrazową klauzulę z ogłoszenia, a następnie przeglądając listę plików organizacji — tak właśnie został tutaj znaleziony. Nic w materiałach N​VIDII nie wyjaśnia, dlaczego checkpoint bazowy jest publikowany o tych samych 249 GB co model, który faktycznie jest po treningu, ani co masz z nim zrobić, czego nie potrafi zrobić model po treningu.

Ta nieobecność to cała historia. Wydanie z otwartymi wagami, w którym dostawca podlinkowuje dwa z trzech checkpointów, a trzeci opisuje dziewięcioma słowami, nie ukrywa niczego — wagi są tuż obok — ale oznacza to, że dokumentacja, której potrzebujesz, nie znajduje się w ogłoszeniu. Jest w repozytorium.

Co oznacza „base" w tym wydaniu

Dwie karty modeli odpowiadają na to, a różnica między nimi pozwala jasno odczytać, co dał tu etap post-trainingu.

Karta bazowa dokumentuje trzy etapy treningu. Etap 1 buduje szkielet językowy na bazie N​emotron 3 Super Base i trenuje wspólną głowicę MTP przez 100 mld tokenów względem zamrożonego szkieletu, a następnie destyluje przez 1 bilion tokenów z N​emotron 3 Ultra Base. Etap 2 to 100 mld tokenów kontynuowanego wstępnego trenowania języków indyjskich, rozszerzenie o 35 mld tokenów do kontekstu 1 mln, 67 mld tokenów treningu pośredniego inżynierii oprogramowania przy kontekście 256 tys. oraz etap odzyskiwania długiego kontekstu na 9 mld tokenów. Etap 3 dołącza enkoder wizyjny C-RADIO i łącznik wizyjno-językowy.

Karta modelu po treningu końcowym dokumentuje sześć, a trzy, których brakuje karcie bazowej, to trzy, które czynią model użytecznym: Etap 4 – nadzorowane dostrajanie na danych dotyczących wizji, rozumowania, kodu, narzędzi, czatu, bezpieczeństwa i długiego kontekstu, przy użyciu upakowanych sekwencji o długości do 524 288 tokenów; Etap 5 – uczenie ze wzmocnieniem z weryfikowalnymi nagrodami plus RLHF plus wielonauczycielska destylacja on-policy; oraz Etap 6 – wzmacnianie głowicy MTP względem zamrożonego szkieletu poddanego treningowi końcowemu, tak aby dekodowanie spekulacyjne rzeczywiście się opłacało.

Karta modelu bazowego sama to mówi, w sekcji Wnioskowanie: „Model bazowy jest pomyślany jako punkt wyjścia do dalszego treningu. W przypadku zastosowań związanych z czatem, rozumowaniem i wywoływaniem narzędzi użyj wydania BF16 lub NVFP4 po treningu oraz jego instrukcji wdrożenia”. Jej deklarowane zastosowanie to „deweloperzy i badacze tworzący własne modele wizyjno-językowe poprzez kontynuowany trening wstępny, nadzorowane dostrajanie, uczenie ze wzmocnieniem i destylację”.

To wyjątkowo bezpośrednie zastrzeżenie i prawidłowe odczytanie tego artefaktu. To, co jest tu udostępniane jako „base”, nie jest słabszym modelem czatu. To substrat, na którym przeprowadzono etapy 4–6, opublikowany wraz z nimi, aby ktoś inny mógł przeprowadzić inne etapy 4–6 — na własnych danych, na własnych warunkach licencyjnych, bez ponownego przeprowadzania wstępnego trenowania na 20 bilionów tokenów.

Twierdzenie o 1M tokenów, którego konfiguracja nie niesie

To jest rozbieżność warta 249 GB twojej uwagi.

Karta modelu bazowego stwierdza w swoim opisie, że model „obsługuje długości kontekstu do 1 mln tokenów”, i powtarza to w sekcji Projekt modelu: „Model obsługuje do 1 mln tokenów kontekstu”. Metodologia treningu potwierdza ten zamiar — Etap 2 wyraźnie obejmuje „rozszerzenie o 35 mld tokenów do kontekstu 1 mln, po którym następuje etap odzyskiwania długiego kontekstu o 9 mld tokenów”.

Dostarczony config.json mówi coś innego. Jego max_position_embeddings wynosi 262,144 — 256 tys., a nie 1 mln. Nie ma rope_scaling jako bloku ani original_max_position_embeddings jako pola, więc schemat pozycji również nie deklaruje rozszerzenia. Konfiguracja repozytorium po treningu z kolei deklaruje max_position_embeddings na poziomie 1,048,576. Dwa bliźniacze checkpointy, ten sam ciąg architektury, ten sam układ warstw i czterokrotna różnica w limicie pozycji, o której proza karty bazowej nie wspomina.

Zestawiając te trzy fakty, najbardziej uzasadniony wniosek nie jest taki, że model bazowy ma krótki kontekst. Jest nim to, że repozytorium bazowe dostarcza konserwatywny zadeklarowany limit i oczekuje, że go zmienisz. Rozszerzenie do 1M zostało wytrenowane. Opublikowana konfiguracja go nie ujawnia. Jeśli twój plan dalszego pretrenowania zakłada długość sekwencji 1M tokenów od razu po wyjęciu z pudełka, to założenie pochodzi z karty modelu, a nie z pliku, który faktycznie odczyta środowisko uruchomieniowe — a poprawka to edycja konfiguracji, o której musisz wiedzieć, że należy ją wprowadzić.

Warto to zaznaczyć z tego samego powodu: tabela Podsumowanie modelu na karcie bazowej po prostu nie istnieje. Karta po treningu zawiera taką tabelę — łączna liczba parametrów, architektura, precyzja, długość kontekstu, cel wdrożenia, dekodowanie spekulatywne, tryb rozumowania, zalecane próbkowanie, najlepsze zastosowania, licencja. Karta bazowa przechodzi bezpośrednio od Opisu do Licencji, a następnie do tabeli benchmarków. Nigdzie nie ma wiersza zalecanego próbkowania ani wiersza dotyczącego wdrożenia, więc nic na karcie bazowej nie mówi, jakiego sprzętu potrzebuje.

Architektura, odczytana z dostarczonej konfiguracji

Ponieważ opis architektury bazowej podany przez dostawcę to jeden akapit, a rzeczywisty kształt znajduje się w pliku, oto co mówi plik. Wszystko to pochodzi bezpośrednio z config.json w repozytorium bazowym, a nie z żadnego podsumowania.

• Głębokość i kompozycja — 88 bloków w szkielecie językowym. 40 to warstwy Mamba-2, 40 to warstwy mieszanki ekspertów, a 8 to warstwy pełnej uwagi, przy indeksach 7, 16, 25, 36, 47, 58, 69 i 78. Jeden blok uwagi mniej więcej co dziewięć warstw to cały mechanizm długiego kontekstu.

• MoE — 512 ekspertów routowanych na warstwę MoE, 22 wybieranych na token, jeden ekspert współdzielony, rozmiar latentny 1024 oraz rozmiar pośredni eksperta współdzielonego 5376 w porównaniu z 2688 dla ekspertów routowanych. To arytmetyka stojąca za nagłówkiem „120B łącznie, 12B aktywnych”.

• Mechanizm uwagi — 32 głowice zapytań względem 2 głowic klucz-wartość przy wymiarze głowicy 128, a więc grouped-query attention w proporcji 16:1. Rozmiar ukryty 4096.

• MTP — jedna warstwa predykcji następnego tokenu, sama złożona z bloku uwagi i bloku MoE, w stylu głowicy DeepSeek do wielotokenowej predykcji. Jeden krok predykcji, a nie kilka.

• Wizja — wieża C-RADIO ViT-H: 32 warstwy, rozmiar ukryty 1280, 16 głów, rozmiar patcha 16, 7 tokenów rejestrowych, 3 tokeny klasy, maksymalny rozmiar obrazu 2048 i budżet patchy między 1024 a 13312. Konektor rzutuje na 20 480, następnie współczynnik podpróbkowania 0,5 i wymuszony rozmiar obrazu 512 ograniczają liczbę tokenów.

• Wideo — rozmiar patcha czasowego wynoszący 2 i zadeklarowany współczynnik przycinania 0,7.

• Dwie osobliwości — konfiguracja deklaruje <audio> token kontekstu, podczas gdy jej sound_config ma wartość null, więc infrastruktura audio istnieje w tej architekturze, a ten checkpoint nie zawiera nic z niej. A tie_word_embeddings ma wartość false, co jest standardem dla modelu tej wielkości i warto o tym wiedzieć, jeśli planujesz zmienić rozmiar słownika.

Dla zobrazowania skali: własne metadane safetensors repozytorium sumują 124 453 395 974 parametrów, licząc jeden bajt tensora na raz, wobec deklarowanych przez N​VIDIA 120B łącznie / 12B aktywnych. Te dwie liczby są podawane na różnych podstawach — wartość dostawcy to arytmetyka routowanych i współdzielonych parametrów modelu językowego, a wartość plikowa to wszystko, co jest przechowywane w repozytorium, w tym wieża wizyjna i głowica MTP. Nie traktuj tej luki jako rozbieżności; uwzględnij plik w budżecie.

Co tak naprawdę mierzy tabela benchmarków

Podstawowa karta publikuje 24 wiersze benchmarków i, co trzeba przyznać NVIDII, kolumnę, która mówi, czym jest każdy z nich:

• MMLU 84.14 dokładne dopasowanie · MMLU-Pro 76.25 · AGIEval-En 75.65 CoT · SuperGPQA 47.65 CoT · GPQA Diamond 66.16 przy 5-shot CoT dokładne dopasowanie

• GSM8K 91,74 przy 8-shot CoT · Minerva MATH 87,66 · MATH-500 81,56 z próbkowaniem pass@1 n=32 · HumanEval 81,31 EvalPlus po sanityzacji · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete i 49,39 instruct

• ARC-Challenge 95,99 · HellaSwag 88,96 · TruthfulQA MC2 71,18 · WinoGrande 79,08 · PIQA 85,09 · CommonsenseQA 85,26 · OpenBookQA 48,80 · SocialIQA 49,03 · RACE 91,39

• Globalny MMLU 86,56 uśredniony dla 8 języków · MGSM 87,53 przy 8-shot natywnym CoT w 6 językach

Dwie rzeczy w tej tabeli łatwo przeoczyć, a obie mają znaczenie.

Po pierwsze, samo zdanie wprowadzające karty mówi, że wyniki „oceniają bazowy backbone tekstowy N​emotron 3.5 Super, przed treningiem wizyjno-językowym”. Cokolwiek by to jeszcze oznaczało, oznacza to, że te liczby nie są multimodalnym zestawieniem wyników — na karcie bazowej nie ma nigdzie żadnego benchmarku OCR, żadnego wiersza dotyczącego rozumienia dokumentów ani żadnego wiersza dotyczącego wideo, mimo że wejścia wideo i dokumentów są opisane dwie sekcje wcześniej. Jeśli powodem, dla którego chcesz bazowy checkpoint, jest jego wieża wizyjna, karta nie daje ci niczego empirycznego, na czym można by oprzeć planowanie.

Po drugie, tabela nie ma kolumn bazowych. Tabela karty po dostrajaniu rozciąga się na siedem kolumn — N​emotron 3.5 Super GA kontra Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, N​emotron 3 Ultra, Inkling-Small i GLM-5.3-Flash. Karta bazowa ma dokładnie jedną kolumnę. A mieszanka tego, co uruchomiono, jest wymowna: karta po dostrajaniu całkowicie rezygnuje z MMLU na rzecz MMLU-ProX, podczas gdy karta bazowa uruchamia zarówno MMLU, jak i MMLU-Pro, ale nie uruchamia ani MMLU-ProX, ani zestawów agentowych i zestawów na poziomie harness, na których opiera się karta po dostrajaniu. Na podstawie karty nie można odpowiedzieć na pytanie „czy ta baza jest lepsza niż tamta baza”. Trzeba by uruchomić obie.

Każda liczba powyżej pochodzi od N​VIDIA i została uzyskana za pomocą własnego harnessa NeMo Gym firmy N​VIDIA — karta po treningu mówi o tym wprost, a karta bazowa nie publikuje żadnej noty o harnessie. Nic w żadnej z tych dwóch tabel nie zostało niezależnie odtworzone.

Model bazowy kontra model po treningu, w jednym wspólnym benchmarku

Te dwie karty nie mają wspólnej tabeli benchmarków, ale łączy je dokładnie jeden wiersz, który możesz zestawić obok siebie — i to właśnie ten, który liczy się najbardziej.

• GPQA Diamond — 66,16 na karcie bazowej, przy dokładnym dopasowaniu w 5-strzałowym łańcuchu myśli. 89,52 na karcie po treningu. Luka 23,36 punktu, wynikająca z dwóch własnych dokumentów NVIDII, przy czym wartość bazowa jest wyraźnie oznaczona jako szkielet wyłącznie tekstowy.

To uczciwy nagłówek tego, ile etapy 4–6 są warte w rozumowaniu naukowym na poziomie magisterskim: post-training nie jest kosmetycznym szlifem tego modelu, to mniej więcej drugie tyle możliwości. Mówi też, w którą stronę idzie ten kompromis. Jeśli planujesz samodzielnie poddać bazowy checkpoint post-trainingowi, startujesz 23 punkty za modelem, który sprzedaje N​VIDIA, i zakładasz się, że twoje dane oraz twój sygnał nagrody domkną tę lukę w twojej domenie — co jest dokładnie tym zakładem, który opisują liczby klientów samej N​VIDIA: Scale AI raportuje 40-krotne obniżenie kosztu wnioskowania przy przetwarzaniu kredytów dostawców, a Ramp oczekuje do 50% wyższej przepustowości i 10-krotnie niższego opóźnienia przy ekstrakcji z paragonów do JSON. To wyniki deklarowane przez dostawców i klientów, bez niezależnego pomiaru, i jedyny opublikowany dowód, że domknięcie tej luki jest osiągalne.

Uwaga na pułapkę przy czytaniu obu kart razem. „MMLU-Pro” na karcie bazowej z wynikiem 76,25 i „MMLU-ProX” na karcie po treningu z wynikiem 76,91 wyglądają na różnicę 0,66 punktu i nie są porównywalne — to różne benchmarki, a jeden z nich ma podaną metodę ekstrakcji TigerLab. „MMLU” na karcie bazowej z wynikiem 84,14 nie ma w ogóle odpowiednika na karcie po treningu. Jeśli chcesz deltę dla tego samego benchmarku, GPQA Diamond jest tym, który otrzymujesz, a LiveCodeBench tym, którego nie otrzymujesz: karta bazowa podaje CodeGen z wynikiem 47,61, podczas gdy karta po treningu podaje LiveCodeBench v6 z wynikiem 88,22, co jest inną wersją tej samej rodziny benchmarków, a nie deltą.

Co kupuje 249 GB, a czego nie

Samo pobranie to jedna komenda i jest to jedyna komenda w całej karcie modelu bazowego:

• hf download nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16

To cały Quick Start. Karta bazowa zawiera jeden blok kodu; karta po dostrojeniu zawiera dwadzieścia dwa. Nie ma vllm serve linii, żadnego uruchomienia SGLang, żadnych wskazówek dotyczących tensor-parallel, żadnego --max-num-seqs, żadnej flagi parsera rozumowania, żadnej konfiguracji MTP do dekodowania spekulatywnego i żadnego przykładu klienta API. Karta po dostrojeniu zawiera to wszystko, w tym przepis 4×H100 z --enable-mamba-shared-prefix-checkpoint oraz przepis 2×GB200 przy TP2.

• Silniki wykonawcze — karta bazowa wymienia PyTorch, Megatron-LM i NeMo, a jej sekcja Inference wymienia sam PyTorch. Karta modelu po treningu wymienia vLLM i SGLang. To z jednej strony nazwy frameworków szkoleniowych, a z drugiej nazwy środowisk uruchomieniowych do serwowania, a podział ten jest celowy, a nie przypadkowy.

• Sprzęt testowy — Hopper H100 i H200, Grace Blackwell GB200 i GB300, Blackwell B200 i B300. Karta po post-treningu zawęża się do 4×H100 lub 2×GB200 na potrzeby wdrożenia.

• Dysk — 248,9 GB na 63 shardach, tyle samo co pełnoprecyzyjna kompilacja po treningu. Bliźniacza wersja NVFP4 ma 75,1 GB. Jeśli pobierasz bazę, aby ją sprawdzić lub dostosować, a nie uruchomić, płacisz 3,3 razy więcej niż za pobranie NVFP4 za przywilej nieotrzymania przepisu na serwowanie.

To, co faktycznie dostajesz i co jest naprawdę użyteczne: repozytorium zawiera kompletny chat_template.jinja o rozmiarze 12 513 bajtów, który zawiera przełącznik enable_thinking, w tym wariant medium-effort. Zawiera także generation_config.json z temperature 1.0, top_p 0.95 i do_sample true. Porównanie tego szablonu z szablonem po treningu daje różnicę 414 bajtów, całą polegającą na obsłudze białych znaków wokół placeholderów obrazu i wideo — poza tym oba szablony to ten sam plik.

A więc mechanizmy do rozmowy z bazowym checkpointem jako modelem czatu są obecne i niemal identyczne jak w dostarczanym modelu czatu. Brakuje natomiast jakiegokolwiek stwierdzenia, że powinieneś to robić. Na karcie bazowej nie ma wiersza zalecanego próbkowania, wiersza trybu rozumowania ani benchmarku dla niego w konfiguracji czatu. Możesz uruchomić go jako model czatu w około dziesięć minut. Czy wynik zasługuje na to, by opuścić środowisko testowe, to zupełnie inne pytanie, a odpowiedź karty brzmi: nie.

Ujawnienie dotyczące korpusu, o którym nikt nie mówi

Oto część wydania bazowego, która być może jest bardziej użyteczna niż wagi, a która spotkała się z niemal zerowym zainteresowaniem, ponieważ znajduje się w tabelach w repozytorium, do którego nigdy nie podano linku.

Karta bazowa szczegółowo publikuje korpus treningowy, którego nie zawiera karta po dostrojeniu: korpus podstawowy ponad 20 bilionów tokenów zebranych od 2013 r. do grudnia 2025 r., wyszczególniony według źródeł — N​emotron-CC-v2 i v2.1 przy 9,1 bln, N​emotron-CC-Code-v1 przy 427,9 mld, zbiory N​emotron-Pretraining-Code łącznie 1,7 bln, N​emotron-CC-Math-v1 przy 133,3 mld, wyspecjalizowane zbiory syntetyczne i syntetyczne zbiory SFT przy 660 mld oraz zbiór prawniczy przy 4,3 mld. Angielski, 19 innych języków mówionych, 43 języki programowania.

Następnie dwie tabele, których większość wydań open-weights po prostu nie publikuje. Jedna z nich wymienia prywatne, niedostępne publicznie zbiory danych należące do stron trzecich, i podaje nazwy modeli, które wygenerowały ich etykiety — Qwen3.5-122B-A10B w szerokim zestawie zadań ponownego etykietowania OCR i odpowiadania na pytania wizualne, D​eepSeek-OCR na filtrowanym chińskim podzbiorze OCR, Qwen3.5 na podzbiorze zweryfikowanym jako poprawny, Gemini 3 i GPT-5 na danych RL do wyszukiwania. Druga wymienia własne prywatne zbiory danych N​VIDIA i ponownie podaje nazwy generatorów: Kimi K3 do danych SFT z łańcuchem myślowym w matematyce, DeepSeek-V4-Pro do OCR w programowaniu konkursowym, gpt-oss-120b do RL z ustrukturyzowanym wyjściem, GLM-5.2 do udoskonalania, MiniMax-M2 do przechodzenia grafów wyszukiwania oraz długi ogon innych.

Potem dwie tabele, których większość wydań z otwartymi wagami po prostu nie publikuje. Jedna wymienia prywatne, niepublicznie dostępne zbiory danych należące do stron trzecich i podaje nazwy modeli, które wygenerowały ich etykiety — Qwen3.5-122B-A10B w szerokim zestawie zadań ponownego etykietowania OCR i odpowiadania na pytania wizualne, D​eepSeek-OCR na filtrowanym chińskim podzbiorze OCR, Qwen3.5 na podzbiorze zweryfikowanym jako poprawny, Gemini 3 i GPT-5 na danych RL do wyszukiwania. Druga wymienia własne prywatne zbiory danych N​VIDII i znów podaje nazwy generatorów: Kimi K3 do danych SFT z łańcuchem myślowym z matematyki, DeepSeek-V4-Pro do OCR kodu konkursowego, gpt-oss-120b do RL z ustrukturyzowanym wyjściem, GLM-5.2 do dopracowywania, MiniMax-M2 do przechodzenia grafów wyszukiwania i długi ogon innych. Te zestawione pary tabel przypominają, jak naprawdę działa branża — sygnał treningowy czołowego modelu rutynowo obejmuje wyniki modeli konkurentów, a N​VIDIA to jedno z bardzo niewielu laboratoriów, które powiedzą, których i do czego.

Repozytorium zawiera również Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf, dodany 15 października, który stanowi skierowane do UE ujawnienie treści szkoleniowych. Mieszanka treningu pośredniego jest ujawniona z taką samą szczegółowością, a jeden jej wiersz jest bezpośrednio istotny, jeśli zamierzasz dostroić model do pracy programistycznej: etap inżynierii oprogramowania liczący 67 mld tokenów to 20% całych repozytoriów, 41% par zgłoszeń i pull requestów, 3% diffów commitów, 1% logów kompilacji i CI, 10% śladów agentów, 20% powtórek z pretreningu i 5% danych długiego kontekstu, a jego źródła są odkażane względem repozytoriów SWE-bench i Terminal-Bench. To stwierdzenie o odkażaniu to jedyny wiersz w karcie, który mówi, ile warta jest ocena na którymkolwiek z tych benchmarków.

Licencja oraz dla kogo przeznaczony jest bazowy checkpoint

OpenMDW-1.1, ta sama licencja co w przypadku wersji po treningu, a karta modelu mówi wprost: „Ten model jest gotowy do użytku komercyjnego lub niekomercyjnego”. Repozytorium nie jest objęte ograniczeniami dostępu i do pobrania nie jest wymagany token Hugging Face, choć własne receptury kontenerów NVIDIA gdzie indziej w rodzinie zakładają, że taki token jest potrzebny.

Umieść licencję obok przypadku użycia, a docelowy odbiorca stanie się jednoznaczny. Nikt nie pobiera 249 GB checkpointu pre-post-training, żeby oszczędzić na wnioskowaniu — wersja NVFP4 jest 3,3 razy mniejsza, szybsza i o 23 punkty lepsza na GPQA Diamond. Bazowy checkpoint jest dla zespołu, który zamierza przejąć etap post-trainingu: inna domena, inny sygnał nagrody albo inna polityka danych niż ta, którą zastosował N​VIDIA. Na licencji OpenMDW-1.1 z dozwolonym użytkiem komercyjnym i wagami bez ograniczeń to uzasadniona podstawa do zbudowania produktu, i właśnie dlatego brakująca dokumentacja ma swoją cenę.

Warto tu rozdzielić dwa typy czytelników. Jeśli twoje pytanie brzmi: „co powinienem wywołać w tym tygodniu do parsowania dokumentów lub rozumienia wideo”, to bazowy checkpoint nie jest twoją odpowiedzią i nigdy nią nie był; jest nią model po treningu końcowym, a otwartym pytaniem jest tam raczej weryfikacja benchmarku niż dostępność. Jeśli twoje pytanie brzmi: „czy mogę dostać hybrydowy szkielet wizyjno-językowy Mamba-MoE klasy 120B na permisywnej licencji jako punkt wyjścia do własnego treningu”, to odpowiedzią jest to repozytorium, które od 12 października pozostaje niepodlinkowane.

Gdybyś miał zamiar to oceniać

Kosztownym błędem w przypadku takiego checkpointu jest traktowanie pobrania jako testu. Nie jest nim: 249 GB, 63 shardy i edycja konfiguracji przed pierwszym przebiegiem w przód nie mówią nic o tym, czy wieża wizyjna przenosi się na twoją klasę dokumentów.

Tani test polega na tym, aby najpierw rozstrzygnąć kwestię możliwości na modelu udostępnianym przez usługę, a dopiero potem wydawać miejsce na dysku. Bramka routingu jest do tego przydatna i do niczego innego w tej decyzji — jeden klucz i jeden punkt końcowy dla kilkuset modeli w cenie katalogowej dostawcy z 0% marży przekazywanej dalej oznacza, że możesz zestawić dostrojoną wersję N​emotron 3.5 Super VL z dowolnym modelem wizyjnym, którego już używasz, na własnych obrazach, w jedno popołudnie i za koszt tokenów. Automatyczne przełączanie awaryjne między dostawcami ma tu znaczenie z wąskiego powodu: przebieg ewaluacji, który padnie przy żądaniu 4000 z 5000, kosztuje cię cały przebieg, a bramka, która ponowi próbę gdzie indziej przy błędzie dostawcy, to różnica między jednym popołudniem a dwoma.

Aby ująć wprost tę jedną rzecz, która w przeciwnym razie byłaby niejednoznaczna: NVIDIA Nemotron 3.5 Super VL nie znajduje się w naszym katalogu. Nie obsługujemy dziś tego modelu, a konkretnie checkpoint bazowy raczej w ogóle nie byłby oferowany przez hostowany endpoint, ponieważ checkpointy bazowe nie są produktami do wnioskowania. Brama daje ci tańszą połowę eksperymentu — porównanie, które mówi ci, czy warto płacić za te 249 GB.

Co jest jeszcze nieustalone?

Cztery rzeczy, przedstawione jako luki, a nie ryzyka.

• Który limit kontekstu jest prawdziwy. Karta podaje 1M, dostarczana konfiguracja deklaruje 262,144, a opis treningu mówi, że uruchomiono rozszerzenie do 1M. Nie ma opublikowanego oświadczenia, które rozstrzygałoby te trzy wartości. Każdy, kto planuje przebieg kontynuowanego pretreningu z długim kontekstem, powinien traktować wartość z konfiguracji jako domyślną i zweryfikować ją względem swojego środowiska uruchomieniowego, a nie karty.

• Co potrafi wieża wizyjna. Karta bazowa nie publikuje żadnej oceny multimodalnej. Żadnego OCR, żadnego dokumentu, żadnego wykresu, żadnego wiersza wideo — dla jednego punktu kontrolnego w rodzinie, którego całym celem jest dostrajanie na tych modalnościach. To największa luka w opublikowanych dowodach.

• Jak model bazowy wypada w porównaniu z czymkolwiek.Jednokolumnowa tabela benchmarków, bez wyników odniesienia, bez adnotacji o narzędziu testowym. Wynik 66,16 w GPQA Diamond jest co do zasady odtwarzalny za pomocą NeMo Gym i nie został odtworzony przez nikogo spoza NVIDIA.

• Czy wersja bazowa gdziekolwiek dostarcza przepisy wdrożeniowe dla 1M. Karta po treningu zawiera polecenia uruchomienia dla 4×H100 i 2×GB200 dla pełnego okna. Karta bazowa zawiera jedno hf download. Nie jest jasne, czy to luka w dokumentacji, czy stwierdzenie, że obsługa wersji bazowej przy 1M nie jest czymś, co NVIDIA zamierza wspierać.

Nic z tego nie sprawia, że to wydanie jest mniej interesujące. To sprawia, że bazowy checkpoint staje się najmniej udokumentowanym artefaktem w rodzinie, a dla wąskiego i konkretnego rodzaju zespołu — jej najbardziej użytecznym; różnica polega na tym, czy twoim następnym krokiem jest wywołanie API, czy uruchomienie treningu.

Dla modelu, którego tryby awarii wciąż nie są udokumentowane, przydatnym odpowiednikiem jest zapis tego, co już poszło nie tak gdzie indziej: udokumentowane incydenty AI i awarie agentów wokół modeli tej klasy są zebrane w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, wagę, stopień pewności i flagę sporną.