Nemotron 3.5 Bolt E4B 4GB vs Nemotron 3.5 Bolt 74B-A9B 24GB: ta sama nazwa, przeciwne maszyny

NVIDIA wydała dwa modele o nazwie Bolt w odstępie ośmiu dni. NVIDIA-Nemotron-3.5-Bolt-E4B-4GBpojawił się 23 października 2026: wyłącznie tekstowy model konwersacyjny o łącznej liczbie 8B parametrów, dotrenowany z Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB— model, o którym mówi większość ludzi, gdy mówi Nemotron 3.5 Bolt — pojawił się 15 października: multimodalny agent o łącznej liczbie 74B parametrów i 9B aktywnych, skompresowany do dwóch bitów na wagę eksperta.

Mają wspólną plakietkę, licencję i okno premiery. Nie mają wspólnej architektury nadrzędnej, modalności, okna kontekstowego, zestawu testów porównawczych ani zadania. Odczytanie „Bolt” jako drabiny rozmiarów to błąd, któremu ma zapobiec to porównanie.

Jeden jest pochodną Gemmy. Drugi to skompresowany agent 120B.

Rodowód wyjaśnia prawie wszystko inne.

E4B powstał jako Gemma-4-E4B-it, mały model Google dostrojony do instrukcji, a NVIDIA dodatkowo go wytrenowała, stosując uczenie ze wzmocnieniem na podstawie weryfikowalnych nagród i informacji zwrotnej od ludzi za pośrednictwem NeMo-RL i NeMo-Gym. Architektura jest architekturą Gemmy: 8B łącznych parametrów przy 4B efektywnych, wyłącznie tekstowa ścieżka wejścia i wyjścia oraz okno kontekstu 64K. Wkład NVIDIA to zachowanie, a nie szkielet.

Model 74B powstał na bazie Nemotron 3.5 Super VL 120B-A12B, własnego multimodalnego modelu nadrzędnego NVIDIA. NVIDIA przeprowadziła kierowane routerem wyszukiwanie architektury o nazwie Star Elastic w ramach budżetu pamięci 24 GB i uzyskała hybrydowy model o 74 miliardach parametrów z 9 miliardami aktywnych parametrów na token, łączący warstwy Mamba-2 i Transformer w architekturze LatentMoE, z enkoderem wizyjnym C-RADIO v4-H. Przyjmuje tekst, obrazy i wideo oraz obsługuje kontekst 256K tokenów.

Mówiąc wprost: E4B to model konwersacyjny dostrojony przez NVIDIA. 74B to model agentowy skompresowany przez NVIDIA. Nazwa „Bolt” opisuje cel wdrożenia — inteligencję na gigabajt — a nie wspólną architekturę.

Specyfikacje, obok siebie

• Parametry całkowite i aktywne — 8B łącznie, z czego 4B efektywnych w E4B; 74B łącznie, z czego 9B aktywnych w 74B.

• Architektura — Gemma-4-E4B dla małego modelu; hybrydowy LatentMoE Mamba-2 plus Transformer dla dużego, z kompresją Star Elastic od nadrzędnego modelu Super VL.

• Modalność — tekst na wejściu, tekst na wyjściu w przypadku E4B; tekst, obrazy i wideo na wejściu, tekst na wyjściu w przypadku 74B.

• Okno kontekstu — 64 tys. tokenów na wejściu i 64 tys. na wyjściu w przypadku E4B; do 256 tys. tokenów w przypadku 74B.

• Precyzja — Q4_K_M dla GGUF dostarczanego z E4B; IQ2 przy około 2,0625 bita na wagę eksperta dla modelu 74B, z NVFP4 na niektórych warstwach Mamba i osadzeniami Q8_0.

• Opublikowane wagi — 6,18 GB Q4_K_M i 15,88 GB BF16 dla E4B; 23,75 GB wag GGUF plus projektor wizyjny, 24,12 GB safetensorów gotowych do vLLM i 149,8 GB w BF16 dla 74B.

• Licencja — OpenMDW-1.1 dla obu, przy czym komponent Gemma 4 w stosie E4B objęty jest licencją Apache 2.0.

• Data wydania — 23 października 2026 dla E4B; 15 października 2026 dla 74B.

• Środowisko uruchomieniowe — llama.cpp dla E4B, przy czym karta oznacza przepis jako „oczekujący”, mimo że dostarcza polecenia szybkiego startu; vLLM dla 74B, z przepisem referencyjnym, który przypina kontener nightly za pomocą hasha commita.

Warto zwrócić uwagę na jedną pułapkę metadanych, zanim doprowadzi ona do błędu przy zakupie. Widget plików Hugging Face w repozytorium 74B pokazuje „22B params”, podczas gdy karta modelu podaje 74B łącznie i 9B aktywnych. Karta ma rację: 22B to nieaktualne pole paska bocznego, a nie trzeci wariant, i każdy, kto dobiera sprzęt na podstawie widgetu, a nie karty, mocno się pomyli w drugą stronę.

Tabele benchmarków nie współdzielą ani jednego wiersza.

To najważniejsza rzecz, którą trzeba zrozumieć przed porównaniem tych dwóch, i właśnie to większość omówień pomija.

NVIDIA oceniła model 74B w testach GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp i WebArena. Oceniła model E4B w testach MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth i RelyToolBench.

Nie ma żadnego nakładania się. Ani jeden wiersz nie występuje w obu tabelach. Oba zestawy używają nawet różnych wersji benchmarku agentowego — Tau2 dla E4B, Tau3 Banking dla 74B — więc nawet najbardziej podobnie wyglądająca para również nie jest porównywalna.

To oznacza, że każde twierdzenie w postaci „74B jest o X punktów lepszy od E4B” jest sfabrykowane. NVIDIA nie opublikowała wspólnego harnessu, a żadna strona trzecia go nie uruchomiła. Tabele potwierdzają natomiast stwierdzenie dotyczące intencji projektowej:

• Model 74B oceniano na zadaniach przypominających pracę — użycie terminala, przeglądanie internetu, programowanie naukowe, pytania na poziomie absolwenckim, rozumowanie w długim kontekście. Jego najwyższe opublikowane wyniki to BrowseComp 66,75, Terminal-Bench 2.1 50,98, GPQA Diamond 86,43 i AA-LCR 64,06.

• E4B zmierzono na zadaniach przypominających rozmowę — utrzymywanie persony, hierarchia instrukcji, wiedza o tym, kiedy wywołać narzędzie, opieranie się na wynikach narzędzia. Jego najsilniejsze wiersze to IHEval 84,79, RoleBench 67,05, RelyToolBench 63,16 i When2Call 63,36.

Oba zestawy są raportowane przez dostawcę i nie zostały odtworzone. Karta modelu 74B zawiera dodatkowy niuans, który warto zaznaczyć: NVIDIA opisuje ten model jako najlepszy otwarty model w swojej klasie na PinchBench, ale jej własna tabela pokazuje Qwen3.6-35B-A3B na poziomie 88,07 wobec 87,82 modelu Bolt. To różnica 0,25 punktu i twierdzenie, które nie do końca broni się wobec własnego przypisu.

Deklaracje dotyczące prędkości wraz z dołączonym sprzętem

Przepustowość to jedyne miejsce, w którym obie karty podają liczby, a mimo to nadal nie da się ich zestawić.

• E4B na RTX 5070 12GB — od 106,2 do 133,4 tokenów na sekundę, od 548 do 1 238 ms do pierwszego tokenu, od 3,5 do 4,3 GB VRAM, zmierzone za pomocą llama.cpp i CUDA przy batchu 1.

• E4B na Jetson Orin Nano 8GB — od 13,0 do 15,5 tokenów na sekundę i od 5,8 do 6,3 sekundy do pierwszego tokenu. Ten sam model, na sprzęcie, wokół którego tak naprawdę kręci się przekaz o „4GB”.

• 74B na RTX Spark — 83.99 tokenów na sekundę w AIPerf SPEED-Bench-Coding, z dołączonym drafterem LiLiCorr i siedmioma tokenami spekulacyjnymi na krok.

Wartość 74B zakłada osobny checkpoint draftujący o rozmiarze 1,13B, konkretny benchmark oraz inny sprzęt niż w którymkolwiek przebiegu E4B. Wartość E4B zakłada brak draftującego. Porównywanie 133 z 84 i wyciąganie wniosku, że mały model jest szybszy, jest technicznie prawdziwe i praktycznie bez znaczenia: jeden to model o czterech miliardach efektywnych parametrów na desktopowym GPU, drugi to model o dziewięciu miliardach aktywnych parametrów na innej maszynie z doczepionym dekoderem spekulatywnym.

To, co liczby faktycznie ustalają, to kształt kompromisu. E4B jest zbudowany z myślą o czasie do pierwszego tokenu; 74B jest zbudowany do ciągłej pracy agentowej, w której 84 tokeny na sekundę wystarczają. Wiersz Orin Nano jest przestrogą: model 4GB na sprzęcie wbudowanym nie jest automatycznie prawdziwym rozmówcą czasu rzeczywistego.

Pamięć: 4 GB i 24 GB to koperty, a nie pliki

Obie nazwy korzystają z celu pamięci, a żadna z tych liczb nie oznacza pobrania.

• E4B — 6.18GB Q4_K_M GGUF. NVIDIA w swoich własnych przebiegach z batch-1 na sprzęcie RTX odnotowuje od 3.1 do 4.3GB VRAM. Karta nie udostępnia pliku 4GB.

• 74B — 22,02 GB wag GGUF plus osobny projektor wizyjny 1,73 GB, co daje łącznie 23,75 GB, czyli 24,12 GB w gotowej do vLLM kompilacji safetensors. Kwantyzacja ekspertów 2,0625-bitowa pozwala zmieścić się w limicie 24 GB.

• Kompilacje BF16 — 15,88 GB dla E4B, 149,8 GB w 63 shardach dla 74B. Warianty pełnej precyzji są przeznaczone do post-trainingu, a nie do wdrożenia, i karta 74B mówi to wprost.

Luka w pamięci masowej wynosi około cztery do jednego przy precyzji wdrożeniowej i około dziewięć do jednego przy pełnej precyzji. Luka w VRAM jest mniejsza niż luka w liczbie parametrów, ponieważ model 74B płaci za swoją kompresję w bitach, a nie w rozmiarze.

Modalność i kontekst znaczą więcej niż liczba parametrów

Okno tekstowe 64K i okno multimodalne 256K to nie ten sam produkt z różnymi limitami.

Model 74B może spojrzeć na obraz lub wideo i podjąć na tej podstawie działania. W jego karcie specyfikacji określono wejście RGB JPEG lub PNG, wideo MP4 o długości do dwóch minut oraz zalecenie jednej klatki na sekundę przy 1080p lub dwóch klatek na sekundę przy 720p. Potrafi odczytać zrzut ekranu, wykres, formularz lub strumień z kamery, a następnie wywołać narzędzia na podstawie tego, co zobaczył. To właśnie ta możliwość czyni go agentem do przeglądania i pracy na pulpicie.

Model E4B nie widzi. Przyjmuje tekst i zwraca tekst, a jego okno 64K jest wyraźnie słabsze niż u konkurencyjnych modeli w wyszukiwaniu informacji: RULER 86,99 wobec 95,15 w Qwen3.5 4B, LongBench v2 50,50 wobec 59,93. Jeśli Twoja aplikacja musi utrzymywać w polu widzenia długi dokument lub zrzut ekranu, E4B jest niewłaściwym modelem, niezależnie od tego, jak dobre są jego wyniki w testach persony.

Dla kogo jest każdy z nich

E4B jest przeznaczony dla warstwy interfejsu. Interaktywne postacie, asystenci głosowi, agenci w urządzeniach wbudowanych, roboty, które muszą wybrać skrypt i mówić, oraz każda aplikacja, w której model musi odpowiedzieć w ciągu kilkuset milisekund na sprzęcie kosztującym mniej niż stacja robocza. Demonstracje NVIDIA czynią ten zamysł konkretnym: robot Reachy Mini na Jetson Orin Nano używający E4B do wybierania skryptów animacji, podczas gdy osobny model wizyjny odpowiada za percepcję, oraz NPC kowala, który weryfikuje płatność, wyszukuje przepis, zbiera składniki i przekazuje przedmiot.

Model 74B jest przeznaczony do warstwy roboczej. Stale aktywni agenci osobisty, którzy przeglądają sieć, programują, analizują dane, monitorują zadania w tle i wywołują interfejsy API. Działa na RTX Spark, DGX Spark, stacjach roboczych RTX PRO oraz kartach GeForce RTX z wystarczającą ilością pamięci, a zaprojektowano go tak, by współistniał z innymi aplikacjami w ramach budżetu 24 GB. Jego profil benchmarkowy — BrowseComp, Terminal-Bench, GPQA, AA-LCR — to profil modelu, który kończy zadania, a nie takiego, który prowadzi rozmowę.

Żadne z nich nie zastępuje drugiego. Studio gier, które chce wiarygodnych NPC, nie potrzebuje 74B multimodalnego agenta; platforma agentowa, która musi odczytać stronę internetową i uruchomić polecenie terminala, nie może użyć tekstowego 4B modelu konwersacyjnego.

Co rodzina dwóch modeli oznacza dla wdrożenia

Interesującą konsekwencją architektoniczną jest to, że NVIDIA dostarczyła portfolio, a nie drabinę. E4B obsługuje warstwę odruchową, 74B obsługuje warstwę pracy lokalnej, a Super VL 120B-A12B obsługuje cięższe przypadki multimodalne. To trzy różne budżety pamięci i trzy różne zadania, wszystkie w ramach jednej rodziny licencji.

Większość aplikacji nadal będzie potrzebować czwartej warstwy, której nie mogą pobrać: modelu czołowego do żądań przekraczających możliwości lokalnego sprzętu lub drugiego dostawcy dla modalności, której brakuje lokalnemu modelowi. Przekierowywanie ich przez jedno API — ponad 200 modeli, 0% narzutu na cenę katalogową dostawcy, automatyczne przełączanie awaryjne gdy wydajność dostawcy spada — pozwala, aby lokalny Bolt pozostał szybką ścieżką, a model hostowany pozostał wyjątkiem. Alternatywą jest osobna integracja, klucz i rachunek dla każdego modelu powyżej warstwy lokalnej.

Co rozstrzygnęłoby kwestię rodzinną?

Jeden przebieg. Przepuść oba Bolts przez ten sam harness na tych samych zadaniach — zestaw konwersacyjny, zestaw agentowy i zestaw multimodalny — i opublikuj wiersze. NVIDIA ma checkpointy, stos ewaluacyjny i motywację; zamiast tego zdecydowała się opublikować dwie osobne tabele.

Dopóki to nie istnieje, uzasadniona interpretacja jest taka: 74B jest modelem o większych możliwościach z założenia i na podstawie dowodów, w zadaniach, które NVIDIA wybrała do pomiaru. E4B jest właściwszym modelem dla dużej klasy interfejsów, w których agent 24GB jest absurdem, a 4GB model konwersacyjny jest w sam raz. Nazwa na pudełku jest ta sama. Maszyna w środku już nie.