Nemotron 3.5 Bolt 74B vs Nemotron 3 Ultra: 1,5 punktu indeksu, siedem razy więcej parametrów

Najbardziej zaskakującą liczbą w rodzinie NVIDIA Nemotron 3.5 nie jest rozmiar jej flagowego modelu. Jest nią to, że NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB, checkpoint o 74 miliardach parametrów wciśnięty w 24 gigabajty przy dwóch bitach na wagę, plasuje się zaledwie 1,5 punktu od Nemotron 3 Ultra, modelu o 550 miliardach parametrów, z którego zdestylowano resztę rodziny, w niezależnie prowadzonym Intelligence Index firmy Artificial Analysis — 21,4 wobec 22,9. Siedmiokrotnie więcej parametrów, sześciokrotnie więcej aktywnego przetwarzania na token, a różnica, którą można zgubić w granicach błędu benchmarku. Wagi Bolt pojawiły się na Hugging Face 7 października 2026 r., a ogłoszenie NVIDIA nastąpiło 15 października; Ultra trafił do sprzedaży 4 czerwca 2026 r.

Tych dwóch modeli nie można stosować wymiennie, a miejsca, w których się różnią, są bardziej pouczające niż wynik z nagłówka. To, co kompresja zachowała, i to, co odrzuciła, jest widoczne w opublikowanych liczbach — i nie są to te same wiersze.

Czym jest każdy z nich

Ultra to flagowiec poprzedniej generacji i nauczyciel w centrum procesu destylacji N​VIDIA. To hybrydowy model Mamba-2 o łącznej liczbie 550 mld parametrów i 55 mld parametrów aktywnych, z mechanizmem Multi-Token Prediction, udostępniony na licencji OpenMDW-1.1 wraz z danymi treningowymi i recepturami, stworzony do długotrwałej pracy agentowej z kontekstem do miliona tokenów i limitem 65 000 tokenów wyjściowych na żądanie. Sama N​VIDIA twierdziła, że był to najbardziej inteligentny amerykański model z otwartymi wagami w momencie swojej premiery, a niezależne wyniki w dużej mierze to potwierdzają: panel ocenia go na 22,9 w konfiguracji rozumowania, ze zmierzonymi 156 tokenami wyjściowymi na sekundę, 1,29 sekundy do pierwszego tokenu i medianą 19 sekund całkowitego czasu odpowiedzi.

Bolt to poziom edge nowszej generacji i nie jest destylowanym Ultra w bezpośrednim sensie. Jego modelem nadrzędnym jest N​emotron 3.5 Super VL 120B-A12B, 120-miliardowy model multimodalny, który N​VIDIA wprowadziła wraz z nim. Kompresja została wykonana przez Star Elastic, sterowane routerami wyszukiwanie architektury firmy N​VIDIA, zoptymalizowane pod kątem najniższej straty destylacji wiedzy przy spełnieniu twardego limitu poniżej 24 GB przy rozmiarze partii 1 i kontekście 128K — zmniejszając top-K ekspertów z 22 do 9 i kwantyzując wagi ekspertów do IQ2-XXS przy 2,0625 bita na element, z destylacją świadomą kwantyzacji w celu odzyskania dokładności. Zawiera enkoder wizyjny C-RADIO v4-H, ponieważ jego model nadrzędny był multimodalny.

Niezależne wiersze, obie strony

Wszystko poniżej pochodzi z Artificial Analysis, chyba że oznaczono inaczej, co sprawia, że porównanie jest użyteczne: oba modele zostały uruchomione przez tego samego ewaluatora w ramach tego samego środowiska testowego.

• Indeks Inteligencji — Bolt 21,4; Ultra 22,9. Niezależnie zmierzony dla obu.

• GDPval-AA (znormalizowany) — Bolt 0,240; Ultra 0,257. Różnica 1,7 punktu w benchmarku zbudowanym na rzeczywistych efektach pracy zawodowej.

• SciCode — Bolt 0,397; Ultra 0,403. Praktycznie na tym samym poziomie.

• Humanity's Last Exam, bez użycia narzędzi — Bolt 24,7 proc.; Ultra 28,4 proc. Czteropunktowa różnica jest tutaj największa na tej liście w ujęciu względnym.

• AA-LCR wyszukiwanie w długim kontekście — Bolt 69,7 procent; Ultra 79,3 procent. Dziesięć punktów i najwyraźniejszy dowód na to, ile kosztuje 2-bitowa kompresja.

• AA-Omniscience — Bolt 17,1 proc. dokładności przy 56,3 proc. braku halucynacji; Ultra 22,6 proc. dokładności przy 70,3 proc. braku halucynacji. Flagowiec odznacza się zarówno większą wiedzą, jak i lepszą kalibracją, co jest najmniej zaskakującym wynikiem na stronie.

• Terminal-Bench 4.0 (trudniejszy zestaw) — oba mają zero punktów. Żaden z modeli nie rozwiązuje tego poziomu, w tym flagowy.

• Okno kontekstowe — Bolt: do 256 000 tokenów według karty modelu i 262 144 według danych panelu. Ultra: do 1 000 000 według N​VIDIA, z maksymalnym wyjściem wynoszącym 65 000 tokenów.

• Wejścia — Bolt: tekst, obrazy i wideo na wejściu, tekst na wyjściu. Ultra: tekst na wejściu, tekst na wyjściu. Nic w materiałach premierowych flagowego modelu nie wspomina o wieży wizyjnej.

• Cena — Bolt: brak. Nie ma publikowanej stawki rozliczeniowej dla checkpointu 24GB, a panel nie podaje dla niego żadnej wartości dla danych wejściowych ani wyjściowych. Ultra: 0,60 USD za milion tokenów wejściowych i 2,50 USD za milion tokenów wyjściowych, przy czym wejście z pamięci podręcznej kosztuje 0,16 USD, a zmierzony wydatek wynosi 0,60 USD na zadanie Intelligence Index.

• Szybkość — Bolt: brak niezależnego pomiaru. Ultra: 156,1 tokena wyjściowego na sekundę, 1,29 sekundy do pierwszego tokena, mediana 14,6 sekundy czasu rozumowania na odpowiedź.

• Ślad pamięciowy — Bolt: 24 GB przy IQ2, do wdrożenia na jednym A100, H100 lub układzie Blackwell. Ultra: wdrożenie na wielu akceleratorach; własny przepis firmy NVIDIA na checkpointy nauczyciela w tej rodzinie wymienia jako minimum cztery B200 lub osiem H100, a Ultra jest największym członkiem.

Dlaczego luka w indeksie jest mniejsza niż luka w rozmiarze i co to oznacza

Istnieją dwa uczciwe wyjaśnienia i oba są prawdopodobnie częściowo prawdziwe.

Po pierwsze, Intelligence Index to wskaźnik złożony, który nagradza procedurę bardziej niż przywoływanie. Bolt utracił przechowywane fakty wskutek 2-bitowej kwantyzacji — widać to w wierszach dokładności — ale zachował wystarczająco dużo zachowań związanych z łańcuchem myśli, wywoływaniem narzędzi i ustrukturyzowanym wyjściem, by punktować w zadaniach złożonych. Zauważ, że przewaga Ultra koncentruje się dokładnie tam, gdzie liczy się pamięć: odzyskiwanie informacji z długiego kontekstu, dokładność wszechwiedzy, wskaźnik halucynacji, trudne pytania naukowe, które wymagają faktu, a nie metody.

Po drugie, wyszukiwanie architektury na silnym rodzicu jest lepszym wykorzystaniem stałego budżetu niż trenowanie małego modelu od zera, co jest wyraźnym argumentem firmy N​VIDIA w dokumentacji Bolt. Wzięcie 120B multimodalnego nauczyciela i wyszukiwanie najszerszego ucznia, który mieści się w 24GB, to inne ćwiczenie niż wstępne trenowanie modelu 30B, a powstały checkpoint 74B/9B lokuje się tam, gdzie znajdowałby się wyjątkowo wydajny model 74B.

Nie oznacza to, że Bolt zastępuje Ultra. Model, który częściej przyznaje się do niepewności (56,3 wobec 70,3 procent braku halucynacji, w złym kierunku) i mniej niezawodnie pozyskuje informacje z długiego kontekstu, jest gorszym asystentem w przypadku pytań, które ludzie faktycznie zadają. Jest lepszym asystentem w zadaniach polegających głównie na procedurze: wywoływaniu narzędzi, wypełnianiu formularzy, edytowaniu plików, odczytywaniu zrzutu ekranu i klikaniu właściwego elementu.

Dwie rzeczy, których Ultra nie potrafi zrobić

Przewagi Bolta są niewielkie i obie mają charakter strukturalny, a nie liczbowy.

To pasuje. Checkpoint o rozmiarze 24 GB działa na sprzęcie, który ktoś posiada, bez sieci, bez licznika za token i bez negocjowania przepustowości. Inteligencja Ultra jest osiągalna wyłącznie przez API, w cenie 0,60 USD za wejście i 2,50 USD za wyjście za milion tokenów oraz około 0,60 USD wydatku na zadanie indeksowania. Ta cena jest naprawdę niska jak na model tej klasy, dlatego hostowana ścieżka jest realną opcją, a nie kompromisem — ale to wciąż ścieżka wymagająca łączności i zaufania do czyjegoś czasu działania.

Widzi. Enkoder wizji C-RADIO v4-H firmy Bolt zapewnia mu wejście obrazowe i wideo, a karta modelu N​VIDIA podaje 50,86 w WebArena vision i 66,75 w BrowseComp. Ultra to model tekstowy. Jeśli zadanie agenta obejmuje zrzuty ekranu, pliki PDF, odczytywanie dashboardów lub automatyzację przeglądarki ze stanem wizualnym, flagowca starszej generacji nie można zastąpić za żadną cenę.

Jak wybrać

Wybierz Ultra, jeśli obciążenie jest wymagające pod względem rozumowania i wyłącznie tekstowe: wieloetapowa analiza, długie zestawy dokumentów, kodowanie w dużych repozytoriach lub cokolwiek, gdzie pomyłka jest kosztowna. Jego niezależne wyniki biją Bolt niemal wszędzie, cena należy do najniższych w przedziale wysokiej inteligencji, a jego przepustowość jest mierzona, a nie zakładana.

Wybierz Bolt, jeśli obciążenie działa na sprzęcie, który kontrolujesz, musi go widzieć lub musi działać dalej, gdy sieć nie działa. Różnica 1,5 punktu w indeksie jest realna i na tyle wąska, że decyzję zwykle podejmuje się na podstawie wdrożenia, a nie jakości — a fakt, że N​VIDIA wypuściła plik 24 GB, który uzyskuje wynik w odległości nie większej niż dwa punkty od jej własnego flagowego modelu 550B, jest bardziej godnym uwagi faktem spośród tych dwóch premier.

Istnieje pośrednia droga, którą warto nazwać, bo to sposób, w jaki N​VIDIA pozycjonuje tę rodzinę, a nie to, jak zrobiłby to kupujący jeden model: mały lokalny executor wykonujący wywołania narzędzi i odczyt ekranu, a większy model hostowany zajmujący się planowaniem i trudnym rozumowaniem. Taka architektura wymaga niezawodnego sposobu dotarcia do hostowanej połowy u więcej niż jednego dostawcy, i właśnie temu służy failover OrcaRoutera — automatyczne ponawianie u różnych dostawców za jednym endpointem, na kluczu, który sięga również ponad 200 modeli w cenie katalogowej dostawcy, z dodaną 0-procentową marżą. Nie hostujemy żadnego modelu N​VIDIA; rodziny N​emotron nie ma w naszym katalogu i nic tutaj nie stanowi twierdzenia, że ją obsługujemy. Chodzi tylko o to, że dwupoziomowy projekt agenta wymaga, by drugi poziom był routowalny, a pojedynczy, zakodowany na sztywno endpoint dostawcy to typowy sposób, w jaki taki projekt zawodzi.

Co zmieniłoby tę stronę?

Dwa pomiary. Pierwszy to niezależny przebieg testu przepustowości i opóźnień na checkpoincie 24 GB, który albo potwierdziłby, albo przekreśliłby argument za używaniem go jako lokalnego executora przy prędkości interaktywnej; dziś jedyną dostępną liczbą jest własny wynik firmy NVIDIA — 83,99 tokena na sekundę w AIPerf SPEED-Bench-Coding — uzyskany na maszynie klasy laptopa i nieporównywalny ze stanowiskiem panelu. Drugi to niezależne ponowne uruchomienie benchmarków agentowych na wagach 2-bitowych przy kwantyzacji kontrolowanej przez stronę trzecią — w tabeli dostawcy Bolt pokonuje Ultra w Terminal-Bench 2.1 o prawie 27 punktów, a to twierdzenie wykonuje ogromną pracę bez zewnętrznego potwierdzenia.

Nic z tego nie jest powodem, by unikać tego modelu, a jedynie powodem, by poznać historię: udokumentowane incydenty AI i awarie agentów stojące za modelami z tej klasy zebrano w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, wagę, stopień pewności i oznaczenie sporności.