Nemotron 3.5 Super vs Claude Opus 5.5: 12 miliardów aktywnych parametrów kontra miernik

Oto liczba, która rozstrzyga to porównanie, a nie ma jej w żadnej z tabel z benchmarkami. N​VIDIA N​emotron 3.5 Super — opublikowany przez N​VIDIA pod pełniejszą nazwą N​VIDIA N​emotron 3.5 Super VL, i widnieje w bibliotece Ollama jako nemotron-3.5-super/ — aktywuje około 12 miliardów ze swoich 120 miliardów parametrów na każdy generowany token. Claude Opus 5.5 nie podaje żadnej liczby parametrów i pobiera 4 USD za milion tokenów wejściowych oraz 20 USD za milion tokenów wyjściowych. Jeden z tych modeli ma więc koszt krańcowy na token będący funkcją zużycia energii elektrycznej, a drugi ma koszt krańcowy na token będący pozycją w budżecie. Obie liczby są prawdziwe. Żadna z nich nie mówi jednak, który model jest tańszy w utrzymaniu, bo są wyceniane w różnych walutach.

Powód, dla którego warto o tym teraz pisać: wagi N​VIDIA zostały opublikowane na Hugging Face 12 października 2026 r., po cichu, w repozytorium o nazwie N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, trzy dni przed tym, jak własny wpis N​VIDIA w newsroomie z 15 października oficjalnie to potwierdził. Przed tym ogłoszeniem jedynym publicznym potwierdzeniem, że N​emotron 3.5 Super istniał jako coś, co można uruchomić, był zestaw artefaktów rejestru — oraz fakt, że część specyfikacji w tych artefaktach nie zgadza się ze specyfikacją na karcie producenta. To, co można poznać z repozytorium, to całkiem sporo: liczby bajtów, formaty kwantyzacji, bramka wersji, licencja. Tego, czego nie można poznać z żadnego repozytorium, to jak zachowuje się wobec hostowanego modelu frontier na twoim obciążeniu. Ta luka jest tematem tej strony.

Co tak naprawdę zawiera repozytorium, przede wszystkim

Trzy użyteczne checkpointy pojawiły się w odstępie sześćdziesięciu sekund od siebie 12 października: wagi referencyjne BF16, wariant Base i kompilacja NVFP4. Osobne repozytorium draftujące LiLiCorr pojawiło się dzień wcześniej, 11 października, co jest najwcześniejszym publicznym śladem tego poziomu. Karta opisuje hybrydową mieszankę ekspertów Mamba-2 i Transformer z 512 trasowanymi ekspertami na warstwę MoE, enkoder wizyjny C-RADIO i łącznik wizyjno-językowy, 120 miliardów całkowitych parametrów z 12 miliardami aktywnych, kontekst do 1 miliona tokenów, tekst, obraz i wideo na wejściu z tekstem na wyjściu oraz natywne dekodowanie spekulatywne przez głowicę Multi-Token Prediction. Licencja to OpenMDW-1.1, która pozwala na użycie komercyjne. Wdrożenie jest określone jako cztery H100 lub dwa GB200 dla BF16.

Wpis w Ollama to wersja, z którą większość osób zetknie się najpierw, i to tutaj specyfikacja zaczyna się rozjeżdżać. Udostępnia dziewięć tagów. Cztery z nich — :latest/, :120b/, :120b-a12b/ i :120b-a12b-q4_K_M/ — wskazują na tę samą warstwę q4_K_M, więc domyślne pobranie to kwantyzacja 4-bitowa, a nazwa „120b” nie jest plikiem, który otrzymujesz. Każdy tag, nawet najmniejszy, zawiera projektor wizyjny o rozmiarze 1,6 GiB, ponieważ ścieżka obrazu nie jest opcjonalna. Domyślne próbkowanie w wersji dostarczanej to temperatura 1.0 z top_p 0.95, co jest tekstową rekomendacją karty — ustawienie wizji karty to temperatura 0.6. A brama środowiska uruchomieniowego jest wymuszana: konfiguracja deklaruje requires: 0.40.5/, więc w starszej wersji Ollama pobranie w ogóle nie działa.

Nic z tego nie jest wadą. To zwyczajna luka między informacjami o wydaniu dostawcy a ich społecznościowym opracowaniem i właśnie dlatego warto przeczytać oba dokumenty, a nie tylko jeden.

Uczciwa arytmetyka 12B aktywnych

Rzadka aktywacja to cały argument handlowy przemawiający za tym modelem i warto precyzyjnie określić, co daje, a czego nie daje.

Co to daje: podczas wnioskowania token dotyka mniej więcej jednej dziesiątej sieci. Przepustowość na stałym sprzęcie jest więc znacznie bliższa modelowi gęstemu 12B niż modelowi 120B, a zużycie pamięci to jedyne miejsce, w którym ujawnia się pełne 120 miliardów parametrów. N​VIDIA reklamuje w przypadku własnej karty nawet 5x wyższą przepustowość niż u innych kart w swojej klasie, a gdy działa ona na firmowym stosie Dynamo — nawet 8x więcej jednoczesnych użytkowników przy 85% niższej latencji. To dane producenta uzyskane na sprzęcie producenta i są one specyfikacją, a nie audytem — ale kierunek tego twierdzenia jest bezpośrednią konsekwencją architektury, co przynajmniej składa się w spójną historię.

Czego to nie daje: wagi nadal muszą w całości znajdować się w pamięci. Warstwa BF16 GGUF ma 230,4 GiB. Domyślny wariant q4_K_M to 82,3 GiB plus projektor. Żadna z tych liczb nie maleje, ponieważ na token aktywuje się tylko 12 miliardów parametrów. Tak więc dolną granicę sprzętową wyznacza pamięć, a przepustowość wyznacza aktywacja — dlatego pojedyncza karta 96 GB może swobodnie pomieścić model 4-bitowy i nadal generować tokeny w tempie, które zawstydziłoby gęsty model o tej samej całkowitej wielkości, a także dlatego ta sama karta nie może w ogóle pomieścić modelu w pełnej precyzji.

Teraz postaw Opus 5.5 obok tego. Model Anthropic ma 1 milion tokenów kontekstu, 128 000 tokenów maksymalnej długości wyjścia, przyjmuje dane wejściowe w postaci tekstu, obrazu i pliku, a jego cena katalogowa to 4/20 USD, przy czym odczyty z pamięci podręcznej kosztują 0,20 USD za milion. Nie ma pobierania, decyzji o kwantyzacji, domyślnego ustawienia próbkowania do poprawienia ani wersji do przypięcia. Jest to również dobrze audytowany model: znajduje się na szczycie panelu firm trzecich, którego większość ludzi używa do porównywania takich rzeczy, znacznie powyżej tego poziomu Nemotron.

Więc to porównanie nie polega na tym, „który jest lepszy”. Pod względem mierzalnych ogólnych możliwości wygrywa hostowany flagowiec, a udawanie, że jest inaczej, byłoby krzywdą dla czytelnika, który właśnie stoi przed decyzją zakupową. To porównanie dotyczy tego, gdzie przecinają się dwie krzywe kosztów.

Gdzie otwarty model o 120 miliardach parametrów zasługuje na swoje miejsce

Trzy miejsca i to konkretne.

• Wolumen przy stałym rachunku. Samodzielnie hostowany checkpoint zamienia koszt krańcowy na koszt stały. Przy niskim ruchu licznik wygrywa bezapelacyjnie — cztery H100 kosztują miesięcznie więcej niż większość zespołów wydaje na tokeny. Przy wysokim, stabilnym ruchu koszt stały amortyzuje się, a licznik nie. Punkt przecięcia to jedyne obliczenie, które ma tu znaczenie, i jest funkcją Twojego wolumenu tokenów, a nie jakości któregokolwiek z modeli.

• Praca z wizją, w której liczba stron jest głównym czynnikiem kosztów. Karta N​VIDII podaje 62,82 w MMLongBench-Doc, 78,16 w MathVision, 80,82 w CharXiv reasoning i 68,12 w OCRBench v2 English wobec 59,15 dla wersji chińskiej — wszystkie dane pochodzą od producenta. W O​pus 5.5 te same dane wejściowe są rozliczane za token, a jedna strona zeskanowanego raportu to bardzo dużo tokenów. Jeśli Twoje obciążenie to tysiące stron dokumentów dziennie, arytmetyka zmienia się szybciej niż jakakolwiek różnica w jakości.

• Przypinanie. Punkt kontrolny na dysku, który kontrolujesz, nie zmienia się pod tobą. To jest warte realnych pieniędzy w regulowanym pipeline'ie, a to właściwość, której model hostowany nie może zaoferować za żadną cenę.

Dwa obszary, w których nie zasługuje na swoje miejsce — i o obu warto powiedzieć głośno. Pierwszy to długohoryzontowa praca agentowa: karta NVIDIA podaje 66,70 w Terminal-Bench 2.1, 71,10 w SWE-bench Verified i 51,78 w SWE-bench Pro — przyzwoite, nieodtworzone i za hostowanym frontierem. Drugi to każdy przypadek, w którym nieudane żądanie jest kosztowne, bo model, którego wagi mają cztery dni, ma za sobą cztery dni uwagi świata i zupełnie żadnej historii operacyjnej.

Liczby, którym nie powinieneś jeszcze ufać, i dlaczego

Cała opublikowana tabela wyników dla N​emotron 3.5 Super pochodzi od samego dostawcy i została zebrana za pomocą środowiska NeMo Gym firmy N​VIDIA. GPQA-Diamond 89,52. Humanity's Last Exam (tylko tekst) 31,79. LiveCodeBench v6 88,22. IFBench 70,86. tau2-bench: 69,24 w handlu detalicznym, 76,50 w liniach lotniczych, 73,19 w telekomunikacji. BrowseComp 78. LMArena v3 proxy 52,67. Każda z tych pozycji to twierdzenie dostawcy z dołączonym przepisem do odtworzenia, co jest lepsze niż gołe twierdzenie, ale wciąż nie jest niezależnym pomiarem.

Niezależny obraz jest znacznie skromniejszy i to samo w sobie jest najbardziej użytecznym faktem na tej stronie. Panel zewnętrzny, który ocenia te modele, plasuje ten checkpoint w Intelligence Index na poziomie połowy dwudziestek — około 26 — w porównaniu z około 58 dla Opus 5.5. Panel ten odnotowuje również niezwykle wysokie zużycie tokenów wyjściowych podczas przebiegu indeksu, co interpretuje jako gadatliwość, a gadatliwość to pozycja kosztowa, a nie przypis w każdym wdrożeniu, w którym płacisz za token lub czekasz na token. Jeden niezależny punkt danych to nie wyrok, ale to jedyny, który nie został wytworzony przez firmę sprzedającą model.

Czego nikt nie opublikował: jak 4-bitowa kwantyzacja wpływa na te wyniki. Domyślny tag Ollama to q4_K_M. Każda opublikowana wartość dotyczy BF16 lub NVFP4. Liczba, z którą faktycznie zetknie się większość ludzi, pozostaje więc niezmierzona — i to na nią warto zwrócić uwagę w ciągu najbliższych kilku tygodni.

Co możesz, a czego nie możesz dziś wywołać

Warto powiedzieć to wprost, bo to najczęstsze nieporozumienie na stronach takich jak ta. N​emotron 3.5 Super nie jest dostępny w OrcaRouter. Obsługujemy nieco ponad dwieście modeli i nie ma wśród nich wpisu N​VIDIA N​emotron, więc jeśli potrzebujesz dokładnie tego checkpointu, twoimi drogami są własne kanały budowania i dystrybucji producenta oraz lokalne pobranie przez środowisko uruchomieniowe — nie my.

Opus 5.5 natomiast działa na naszym kluczu, w cenie katalogowej dostawcy przekazywanej bez narzutu za token, co oznacza, że zmiana ceny u dostawcy obowiązuje po naszej stronie tego samego dnia, a nie dopiero przy kolejnym odnowieniu umowy. Ta asymetria jest naprawdę przydatna przy podejmowaniu decyzji, która przed Tobą stoi: tanim pierwszym krokiem jest wzięcie obciążenia, które zamierzałeś uruchomić na czterech H100, i uruchomienie go najpierw na modelu hostowanym, przez jedno API, bez procesu zakupowego. Jeśli model hostowany wykona zadanie w akceptowalnej cenie, oszczędziłeś sobie klaster. Jeśli nie — a błędne odczytanie gęstego dokumentu technicznego na dużą skalę jest prawdopodobnym sposobem, w jaki może tego nie zrobić — masz teraz dowody, a nie tabelę benchmarków, i możesz przeznaczyć pobranie na przypadki, które przetrwały.

Ile konkretnie kosztuje przepis wdrożeniowy

Samą receptę vLLM tej karty warto przeczytać jak dokument budżetowy. Równoległość tensorowa 4, wykorzystanie pamięci GPU 0,85, maksymalnie 32 równoczesne sekwencje, jeden obraz i jedno wideo na prompt, przycinanie wideo przy 0,5 oraz dekodowanie spekulacyjne przez głowicę MTP z trzema tokenami spekulacyjnymi. Cztery H100 przy wykorzystaniu 0,85 i limicie 32 sekwencji to nie jest duża usługa — to poważne wdrożenie jednodęzłowe, a górny limit współbieżności mówi, czego dostawca oczekuje od pojedynczej repliki.

Dwa szczegóły w tym przepisie mają większe znaczenie, niż się wydaje. Konfiguracja wideo przyjmuje jedno wideo na prompt z przycinaniem o połowę, co jest mocną wskazówką, gdzie trafia budżet wizyjny przy długich danych wejściowych. A parser rozumowania nazywa się nemotron_v3/, a parser wywołań narzędzi to qwen3_coder/ — dostawca ponownie wykorzystuje format wywołań narzędzi, którego nie wynalazł, co jest dobrą wiadomością dla każdego, kto ma istniejący kod wywoływania narzędzi, i warto o tym wiedzieć, zanim napiszesz nową logikę parsowania.

W przeciwieństwie do tego, warstwa operacyjna modelu hostowanego to klucz API. Porównanie między „czterema H100 i przepisem na vLLM” a „kluczem i licznikiem” nie jest nawet bliskie pod względem wysiłku. Jest bliskie tylko pod względem kosztu i to tylko przy dużym wolumenie.

Jeszcze jedna rzecz, którą można wywnioskować z repozytorium i którą łatwo przeoczyć: zalecane próbkowanie różni się w zależności od modalności. Tekst chce temperatury 1.0 z top_p 0.95; wizja chce 0.6 z 0.95. Wdrożenie, które ustawia jedną parę globalnie, a potem przetwarza wykresy i zeskanowane strony, uruchamia wizyjną połowę modelu wizyjnego na ustawieniach połowy tekstowej. Jeśli twoje pierwsze wrażenie o tym modelu na dokumentach jest słabe, to jest właśnie pierwszy parametr do sprawdzenia — zanim wyciągniesz jakiekolwiek wnioski dotyczące checkpointu.

Więc który?

Jeśli Twoja praca to długohoryzontowe kodowanie agentowe albo cokolwiek, gdzie rozumowanie musi być na poziomie frontier już przy pierwszej próbie, odpowiedzią jest Claude Opus 5.5, a poziom N​emotron nie jest dla niego zamiennikiem. To nie jest bliski wybór, a opublikowane przez dostawcę wiersze agentowe nie twierdzą inaczej.

Jeśli Twoja praca polega na analizie dokumentów i obrazów na dużą skalę, gdzie czynnikiem kosztotwórczym jest liczba stron, a nie trudność rozumowania, to jest to jeden z ciekawszych otwartych checkpointów, jakie pojawiły się w tym roku: 120 miliardów parametrów przy 12 miliardach aktywnych, liberalna licencja, ścieżka wizyjna, która jest naprawdę obecna, a nie doklejona, oraz domyślny format 4-bitowy, który mieści się na pojedynczej karcie 96 GB. Haczyk polega na tym, że wersja, którą wszyscy faktycznie uruchomią — domyślna q4_K_M — nie ma nigdzie opublikowanej ewaluacji, model ma cztery dni, a specyfikacja opublikowana przez środowisko uruchomieniowe nie do końca zgadza się ze specyfikacją opublikowaną przez dostawcę.

Jedno i drugie to powody, by spróbować, a nie powody, by ufać. Najpierw skieruj obciążenie do modelu hostowanego, aby przekonać się, czy to obciążenie należy do tych, które rozwiązuje model czołowy, a model średniej klasy już nie. Potem zdecyduj, czy przypadki, które przetrwały, są warte klastra, pobrania albo wieczoru konfiguracji. A jeśli rzeczywiście umieścisz czterodniowy checkpoint w ścieżce żądań, ustaw go za mechanizmem awaryjnym, ponieważ najtańszym ubezpieczeniem na wypadek modelu bez historii operacyjnej jest drugi model za tym samym wywołaniem.

Czego liczby nie mogą ci powiedzieć, to czy cokolwiek z tego poszło nie tak w praktyce: udokumentowane incydenty AI i awarie agentów związane z modelami tej klasy są gromadzone w Archiwum incydentów AI OrcaRouter, gdzie każdy wpis zawiera własne źródła, poziom istotności, stopień pewności i oznaczenie sporne.