Nemotron 3.5 Bolt 74B vs Qwen3.8-Max: Największa różnica na tablicy wyników

Każdy pojedynek w rodzinie N​emotron 3.5 Bolt ma lukę. Ten ma największą. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB uzyskuje 21,4 w Artificial Analysis Intelligence Index; Qwen3.8-Max, flagowy model firmy A​libaba i model z najwyższym wynikiem w tej serii porównań, uzyskuje 45,4 w tym samym niezależnie prowadzonym rankingu. To 24 punkty, więcej niż cały wynik mniejszego modelu w tym indeksie, i to uczciwy punkt wyjścia dla każdego, kto pyta, czy lokalny agent na 24 GB może zastąpić modele frontier.

Nie da się. To, co czyni tę parę wartą opisania, to fakt, że oba modele wygrywają w zupełnie różnych wierszach i że własna tabela benchmarków N​VIDIA porównuje Bolt z modelem Q​wen, który nie jest tym modelem.

Dwa modele, które nie mają ze sobą nic wspólnego poza multimodalnością.

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB to 74-miliardowy model wizyjno-językowy skompresowany do 2-bitowego checkpointu, który mieści się w 24 gigabajtach pamięci. Jego wagi pojawiły się na Hugging Face 7 października 2026 r.; NVIDIA wymieniła go w poście premierowym 15 października. Został stworzony do lokalnej pracy agentowej — wywoływania narzędzi, przeglądania sieci, korzystania z terminala, odczytywania ekranu — i jest sprzedawany jako plik do pobrania, a nie jako usługa, bez nigdzie opublikowanej ceny rozliczanej za zużycie.

Qwen3.8-Max to przeciwstawna konstrukcja. Najwyższej klasy model Alibaby to rzadka mieszanina ekspertów, którą firma pozycjonuje bezpośrednio przeciwko najsilniejszym zamkniętym modelom z okresu jego premiery, udostępniany przez trzy formaty komunikacyjne — interfejs zgodny z OpenAI, interfejs zgodny z Anthropic oraz własny DashScope Alibaby — w regionach Pekin, Singapur, Tokio, Frankfurt i Wirginia. Hostowany model zadebiutował 3 sierpnia 2026 r. z obsługą wejścia obrazu i wideo, kontekstem miliona tokenów i przełącznikiem myślenia; migawka z 2 września to wersja obecnie oceniana w rankingach. Bliźniaczy model o otwartych wagach w tej samej rodzinie, Qwen3.8-2.4T-A95B, to osobne wydanie i nie jest modelem mierzonym tutaj.

Jedno to plik. Drugie to usługa. To porównanie wciąż ma sens, ponieważ usługa publikuje cenę, a plik nie, a różnica między nimi jest tym, co faktycznie kupuje lokalne wdrożenie.

• Indeks Inteligencji — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB: 21,4. Qwen3.8-Max: 45,4. Oba zostały niezależnie zmierzone przez Artificial Analysis.

• Kontekst — 262 144 tokeny dla checkpointu NVIDIA w porównaniu z około 983 000 w przypadku Qwen3.8-Max, przy maksymalnej długości wyjścia wynoszącej 131 072 tokeny po stronie Alibaba.

• Parametry — łącznie 74B i 9B aktywnych dla Bolt; flagowy poziom marki A​libaba to rzadka mieszanka ekspertów zupełnie innego rzędu, aktywująca około 95B parametrów na token w swojej wersji z otwartymi wagami.

• Wejścia — tekst, obrazy i wideo na wejściu, tekst na wyjściu w obu przypadkach. To jedyny wymiar, w którym oba są naprawdę podobne.

• Cena — Qwen3.8-Max: 2,00 USD za milion tokenów wejściowych, 6,00 USD za milion wyjściowych, 0,25 USD za wejście z pamięci podręcznej. Bolt: nic, ponieważ nie ma punktu końcowego, w którym można kupić.

• Koszt na zadanie Intelligence Index — 5,41 USD dla Qwen3.8-Max, zmierzony. Brak danych dla Bolt, z tego samego powodu.

• Szybkość — Qwen3.8-Max: 39,8 tokenów wyjściowych na sekundę, 3,06 sekundy do pierwszego tokenu i mediana 50,3 sekundy czasu rozumowania na odpowiedź, wszystkie niezależnie zmierzone. Bolt: brak niezależnego pomiaru przepustowości.

Wiersze, z których pochodzą 24 punkty

Artificial Analysis przetestowało oba. Czytanie szczegółów wiersz po wierszu jest bardziej przydatne niż wynik zbiorczy, ponieważ wynik zbiorczy ukrywa fakt, że żaden z modeli nie jest lepszy pod każdym względem.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 procent, niezależnie zmierzone. Bolt nie ma niezależnego wpisu w tym benchmarku; NVIDIA podaje 50,98 na swojej karcie modelu.

• GPQA Diamond — Qwen3.8-Max 92,8 procent niezależnie. Bolt 86,43 to własny wynik NVIDII, a panel nie ma dla niego niezależnej liczby.

• Humanity's Last Exam, bez narzędzi — Qwen3.8-Max 43,1 procent w porównaniu z 24,7 procent Bolta, oba zmierzone niezależnie.

• Wyszukiwanie w długim kontekście (AA-LCR) — 80,3 procent wobec 69,7 procent, oba zmierzone.

• Kodowanie naukowe (SciCode) — 52,1 procent wobec 39,7 procent, oba zmierzone.

• Rozumowanie multimodalne (MMMU-Pro) — Qwen3.8-Max 82,8 procent, zmierzone niezależnie. Bolt nie ma niezależnego wpisu, co jest godnym uwagi pominięciem w przypadku modelu, którego głównym atutem sprzedażowym jest to, że potrafi widzieć.

• Wyniki zawodowe (GDPval-AA) — Qwen3.8-Max 0,583 znormalizowany względem 0,240 Bolt, oba zmierzone.

• Operacje agentowe i IT — Qwen3.8-Max osiąga 42,4 procent w APEX-Agents, 40,3 procent w ITBench-SRE i 45,0 procent w ewaluacji agenta analitycznego. Bolt nie ma niezależnych wyników w żadnej z tych trzech kolumn.

• Brak halucynacji (AA-Omniscience) — Qwen3.8-Max 71,2 procent wobec 56,3 procent Bolta, przy dokładności 31,7 procent wobec 17,1 procent. W przeciwieństwie do porównania Bolt kontra Ultra, w którym skompresowany model wygrywa wiersz kalibracji, tutaj model flagowy wygrywa oba.

• Koszt na zadanie indeksowania — 5,41 USD dla Qwen3.8-Max. To najwyższa wartość kosztu na zadanie w rodzinie porównań wokół tego modelu i to właśnie ta liczba sprawia, że lokalna opcja staje się interesująca nawet przy 24-punktowym deficycie.

Co można kupić za 5,41 USD za zadanie i co zamiast tego można kupić za 24 GB

Ekonomia Qwen3.8-Max jest nietypowa jak na model frontierowy: cena za token w wysokości 2,00 USD za wejście i 6,00 USD za wyjście jest umiarkowana, ale model spędza dużo czasu na myśleniu. Mediana czasu rozumowania w przebiegach panelu wynosi 50,3 sekundy, a średni czas odpowiedzi end-to-end to 65,9 sekundy. Zadanie, które wymaga od modelu minuty wewnętrznych rozważań, generuje wiele tokenów wyjściowych, a koszt przypadający na zadanie indeksowe jest metryką, która to ujawnia. To nie jest krytyka modelu — głębokie rozumowanie jest produktem — ale właśnie dlatego pętla agentowa o dużym wolumenie szybko staje się kosztowna na tym poziomie.

To dokładnie takie obciążenie, do jakiego został stworzony Bolt. Lokalny checkpoint w ogóle nie ma licznika na token: koszt krańcowy wywołania narzędzia to energia elektryczna, a koszt stały to GPU. W przypadku stale działającego agenta wykonującego tysiące drobnych kroków proceduralnych — odczytu ekranu, wywołania endpointu, edycji pliku — porównanie nie polega na zestawieniu 21,4 z 45,4, lecz stałej wartości z rosnącym rachunkiem. Według samej N​VIDIA, Bolt istnieje po to, aby codzienne zadania agentowe mogły być wykonywane lokalnie bez wysyłania obciążenia do chmury, i podaje wyniki 50,86 w WebArena vision oraz 66,75 w BrowseComp dokładnie dla tych zadań.

Sęk w tym, że koszt stały jest realny, a opóźnienie nieznane. Referencyjny przepis NVIDIA na serwowanie jest wieloetapowy: przypięta kompilacja nocna vLLM, pakiet kerneli b12x, osobno pobierana wtyczka parsera rozumowania, jawne backendy Mamba i attention oraz konfiguracja dekodowania spekulacyjnego wykorzystująca drafter LiLiCorr z siedmioma tokenami szkicowymi. Przepustowość jest podawana przez NVIDIA na poziomie 83,99 tokena na sekundę w AIPerf SPEED-Bench-Coding na maszynie klasy laptopa — wynik dostawcy w benchmarku dostawcy, bez niezależnego uruchomienia, z którym można by go porównać.

Wartość bazowa, którą wybrała N​VIDIA

Jest jeszcze jedna rzecz warta uwagi i jest to lekcja czytania, a nie techniczna. Tabela benchmarków na karcie modelu Bolt zawiera model Qwen jako punkt odniesienia — a jest to Qwen3.6-35B-A3B, model znacznie mniejszy niż flagowy mierzony na tej stronie. Tabela NVIDII pokazuje, że Bolt wygrywa z tym modelem w Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR i MCP-Atlas, a przegrywa w dokładności AA-Omniscience, braku halucynacji AA-Omniscience i PinchBench.

Te porównania mogą być całkiem słuszne. Ale czytelnik, który na podstawie tabeli wyciąga wniosek „Bolt wygrywa z Qwen”, porównuje model edge 74B z 35B MoE klasy dense, a nie z czołową warstwą firmy Alibaba. W starciu z Qwen3.8-Max niezależny zapis wyników wskazuje odwrotny kierunek w niemal każdym wspólnym wierszu, a na najtrudniejszych benchmarkach luka się powiększa, a nie zamyka. Kiedy dostawca sam wybiera własne punkty odniesienia, uczciwym posunięciem jest sprawdzić, czym jest ten punkt odniesienia.

Jak podjąć decyzję

Wybierz Qwen3.8-Max, gdy ograniczeniem jest poprawność. Jeśli zadaniem jest wieloetapowa analiza, trudne rozumowanie multimodalne, praca agentowa z realnymi konsekwencjami albo cokolwiek mierzonego benchmarkami, w których model ten uzyskuje o 24 punkty lepszy wynik, opcja lokalna nie jest kandydatem — a przy cenie $2.00 i $6.00 za milion tokenów jest wyceniany jak infrastruktura, a nie jak luksus. To także model, który warto wybrać, gdy przepływ pracy wymaga ustrukturyzowanych wyników, natywnego wywoływania narzędzi i kontekstu miliona tokenów w jednym wywołaniu — a wszystko to A​libaba dokumentuje jako obsługiwane.

Wybierz Bolt, gdy ograniczeniem jest miejsce, w którym wykonywana jest praca. Prywatność, działanie offline, opóźnienie, które nie zależy od sieci, oraz koszt za wywołanie, który nie istnieje, to cztery osobne argumenty, a każdy z nich sam w sobie wystarcza niektórym zespołom. Model jest dobry w procedurach, a słaby w przywoływaniu informacji z pamięci; skieruj go na to pierwsze.

W przypadku części hostowanej, Qwen3.8-Max jest dostępny przez OrcaRouter jako qwen/qwen3.8-max/ na tym samym kluczu co ponad 200 innych modeli, w cenie katalogowej dostawcy Alibaba bez doliczonej marży — co oznacza, że zmiana ceny przez dostawcę trafia na naszą stronę tego samego dnia, a nie na koniec cyklu rozliczeniowego. Ma to większe znaczenie w tej warstwie niż w taniej, ponieważ 5,41 USD za zadanie indeksowania to liczba, którą zespół finansowy będzie chciał sprawdzać co miesiąc. Tam, gdzie routing zmienia kształt decyzji, pojawia się problem wolumenu: obciążenie, które w 90 procentach składa się z małych kroków proceduralnych, a w 10 procentach z trudnego rozumowania, może wysłać te 10 procent tutaj, a resztę zachować lokalnie, z automatycznym przełączaniem awaryjnym między dostawcami, dzięki czemu warstwa hostowana degraduje się do ponowienia próby, a nie do awarii.

Nie hostujemy żadnego modelu N​VIDIA i nie mamy endpointu Bolt — rodzina N​emotron nie znajduje się w naszym katalogu, a lokalna połowa tego porównania to kwestia sprzętowa, której nie dotyka żadna warstwa routingu.

Nierozwiązany numer

Nikt nie opublikował jeszcze pomiaru, który uczyniłby to porównanie kompletnym: niezależnego testu opóźnienia i przepustowości na checkpointcie 24 GB przy batch size równym jeden, na maszynie, którą może kupić zwykły człowiek. Jeśli okaże się, że 2-bitowy checkpoint 74B wykonuje interaktywne kroki agenta z użyteczną szybkością, 24-punktowa różnica staje się różnicą, którą można obejść — lokalnie w przypadku procedur, hostowane w przypadku rozumowania. Jeśli nie, opcja lokalna jest narzędziem wsadowym, a porównanie sprowadza się do ceny. Tak czy inaczej, odpowiedź jest o jedną publikację stąd i to jest to, czego należy szukać przed planowaniem wdrożenia wokół tego modelu.

Takie porównania jak to są również miejscem, w którym ujawniają się tryby awarii: udokumentowane incydenty AI i awarie agentów stojące za modelami w tej klasie są gromadzone w Archiwum Incydentów AI OrcaRouter, gdzie każdy wpis zawiera własne źródła, wagę, ocenę pewności i znacznik sporności.