Data premiery Nemotron 3.5 Bolt 74B: NVIDIA upycha 74-miliardowy model agentowy w 24 GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B zadebiutuje w czwartek, 15 października 2026 r., a NVIDIA Nemotron 3.5 Bolt E4B pojawi się w piątek, 23 października. Te dwie daty są odpowiedzią na zajawkę: 14 października konto NVIDIA AI opublikowało „Tyle modeli debiutuje w tym tygodniu! A my mamy jeszcze swój własny w drodze...⌛️”, nie podając nazwy. Sprawdzenie tej zajawki jest warte tych dwóch minut, bo rozwiązuje się w nietypowy sposób — ogłoszenie, do którego tweet nawiązuje, zostało już opublikowane w całości dzień wcześniej, we wpisie na blogu NVIDIA z 13 października, w którym podano nazwy obu modeli, obie daty, zajętość pamięci i czasy wnioskowania. To nie przeciek i nie plotka. To premiera, której poświęcono zbyt mało uwagi, a zajawka była zachętą, a nie sensacją.

To, co następuje, oddziela to, co NVIDIA faktycznie zapisała, od tego, czego nikt spoza firmy jeszcze nie zmierzył — co, w przypadku modelu, który trafia dziś na rynek, stanowi większość interesującej kolumny.

Zapowiedź i to, w co się przekształciła

Dwie rzeczy warto ustalić przed czymkolwiek innym, ponieważ są dokładnie tym rodzajem szczegółu, który ulega spłaszczeniu w agregacji. Po pierwsze, kolejność. Wpis na blogu NVIDIA „All Systems Go: Global PC App Ecosystem Ready for NVIDIA RTX Spark” ma znacznik czasu 2026-10-13T12:00Z. Wpis „one of our own coming” pojawił się o 2026-10-14T20:29Z — około trzydzieści dwie godziny później. Tweet jest wskazówką, a nie źródłem pierwotnym, a każde opracowanie, które traktuje tweet jako ogłoszenie, pracuje na niewłaściwym dokumencie.

Po drugie, fraza „jeden z naszych” odgrywa tu prawdziwą rolę. NVIDIA nie jest tu tylko dostawcą; to dostawca platformy na ten tydzień. Ten sam wpis z 13 października zapowiada na 16 października laptopy RTX Spark oraz przebudowany model AI DLSS 5 debiutujący w NBA 2K27 tego samego dnia, wyjście NVIDIA PAIR z fazy beta i Broadcast 2.3. Bolt 74B to model językowy w tygodniu, w którym NVIDIA ogłasza kilka modeli bardzo różnego rodzaju. Jeśli przyszedłeś szukać jednego produktu, właśnie dlatego te materiały są mylące.

Do czego zobowiązała się NVIDIA – jej własnymi słowami

Główna teza jest krótka i konkretna. NVIDIA opisuje Nemotron 3.5 Bolt 74B-A9B jako „nowy LLM zaprojektowany specjalnie do uruchamiania lokalnych agentów na RTX Spark”, zbudowany jako „model mieszanki ekspertów (MoE) o 74 mld parametrów i 9 mld parametrów aktywnych”, który „został upakowany w 24 GB przy użyciu kwantyzacji 2-bitowej z zaawansowanymi technikami treningu świadomego kwantyzacji w celu zachowania jakości”.

W tym zdaniu całą robotę wykonują trzy rzeczy:

• 9B aktywnych, a nie 74B. To rzadki MoE. Koszt routingu na token zależy od aktywnej ścieżki, a nie od całkowitej liczby parametrów — dlatego model 74B jest w ogóle proponowany na laptopa.

• 2-bit, celowo. Nie jest to społecznościowa kwantyzacja wydania BF16, lecz model, który według NVIDIA został wytrenowany za pomocą technik uwzględniających kwantyzację, mających na celu utrzymanie jakości przy tej szerokości. To, czy jakość się utrzymuje, jest kwestią pomiaru, a nie twierdzeniem — zobacz rejestr poniżej.

• 24GB to docelowy zakres. NVIDIA przedstawia ten kompromis jako „optymalną równowagę między szybkością a inteligencją — szybszy niż większość popularnych modeli gęstych, a jednocześnie mądrzejszy niż większość popularnych modeli MoE o podobnym zapotrzebowaniu na pamięć”. To własne stanowisko NVIDII, nieodtworzone przez nikogo.

W kwestii dostępu NVIDIA wymienia środowiska uruchomieniowe wprost: llama.cpp, vLLM, Ollama, Unsloth i LM Studio na starcie, a także bezpośrednie użycie przez agentów, w tym Hermes i OpenClaw. A w kwestii licencjonowania we wpisie napisano, że Bolt 74B jest "w pełni open source... w tym dane treningowe, wagi i receptury" — ten sam sposób ujęcia, jaki NVIDIA stosuje wobec reszty linii Nemotron.

Dlaczego 24 GB jest liczbą, która ma znaczenie, a nie 74 mld

Główna liczba tutaj to 74B. Kluczowa jest 24GB — i to z prostego powodu: 24GB to pułap akceleratora klasy desktopowej. To pojemność pojedynczej wysokiej klasy karty konsumenckiej, a po stronie laptopów to rama, wokół której NVIDIA buduje ten tydzień — maszyny RTX Spark mają limit do 128GB zunifikowanej pamięci i 1 petaflop mocy obliczeniowej AI, a same laptopy pojawią się 16 października.

Złóż to razem, a argument staje się czytelny. MoE z 9B aktywnych parametrów, którego wagi mieszczą się w 24GB przy 2 bitach, oznacza, że ta sama kompilacja, która mieści się na karcie do stacji roboczej, zmieści się też na laptopie wysyłanym następnego dnia, z zapasem na aplikację i drugi mały model. To zasadniczo odmienna historia wdrożeniowa niż w przypadku hostowanego modelu frontier za API i właśnie dlatego w jednym zdaniu opisu samego NVIDIA pojawia się „local agent", a nie „cheap inference".

Przeciwwagą jest to, że cel 2-bitowy stanowi ograniczenie tego, czym model może być. Każde porównanie jakości z modelem BF16 o podobnym całkowitym rozmiarze jest porównaniem między różnymi artefaktami, a NVIDIA wybrała ten artefakt celowo. Oceniaj Bolt 74B na tle innych lokalnych buildów klasy 24GB, a nie na tle checkpointu pełnej precyzji, który nigdy by się nie zmieścił.

Rejestr: potwierdzone, zadeklarowane, ale niezmierzone oraz nieznane

Cała wartość czytania tego w pierwszym tygodniu, a nie w trzecim, polega na precyzyjnym określeniu, w której kolumnie znajduje się dany fakt.

• Potwierdzone przez NVIDIA: nazwa modelu, architektura MoE o łącznej liczbie 74B i 9B aktywnych parametrów, rozmiar 24GB przy 2 bitach, data 15 października, pięć wymienionych środowisk uruchomieniowych, dostęp agentowy przez Hermes i OpenClaw oraz twierdzenie, że wagi, dane treningowe i przepisy są otwarte.

• Zadeklarowane, ale niezmierzone: samo twierdzenie o jakości. „Inteligentniejszy niż większość popularnych modeli MoE o podobnym zapotrzebowaniu na pamięć” oraz „szybszy niż większość popularnych modeli gęstych” trafiają do ogłoszenia bez tabeli benchmarków. Jak dotąd nie wydaje się istnieć niezależna ocena Bolt 74B.

• Nieznane w chwili pisania: okno kontekstowe; nazwana licencja (NVIDIA mówi o otwartym źródle, nie nazywając żadnej w tym poście); dokładna przepustowość wnioskowania na poziomie 24 GB; czy wydanie obejmuje wyłącznie wagi do pobrania, czy jest również udostępniane za pośrednictwem API; czy 2-bit to jedyna opublikowana precyzja; oraz jak blisko architektura wywodzi się z linii Nemotron 3.5 Lightning, którą NVIDIA już dostarczyła w kompilacjach BF16 i NVFP4.

Ta ostatnia niewiadoma to ta, na której warto się skupić. Samo nazewnictwo NVIDIA zawiera obie liczby — „74B-A9B” i wcześniejszą „30B-A3B” — więc oba są porównywalne na papierze: około 2,5 razy tyle parametrów całkowitych co model Lightning i 3 razy tyle aktywnych. To, czy ten stosunek przetrwa kompresję 2-bitową, jest dokładnie tym, co rozstrzygnąłby pierwszy niezależny benchmark.

Bolt E4B to druga połowa rodziny, a przy tym inny produkt

Nemotron 3.5 Bolt E4B, którego premiera odbędzie się 23 października, nie jest mniejszym kuzynem modelu 74B w sposób, jaki sugeruje nazwa. NVIDIA nazywa go „trzecią generacją małego modelu językowego (SLM) dla NVIDIA ACE”, zestawu, którego używa do postaci AI w grach — rodowód, który firma wywodzi od wersji beta PUBG w przypadku pierwszej generacji i podglądu Aniimo na Gamescom w przypadku drugiej.

Jego deklarowane cele projektowe są kształtowane pod kątem gier, a nie agentów: zajętość 4GB, „szybki czas do pierwszego tokena”, „nowy tryb konwersacyjny [który] pomaga utrzymać odpowiedzi zwięzłe i gotowe do mowy”, przełącznik rozumowania oraz ugruntowanie w stanie aplikacji dla wieloturowego korzystania z narzędzi. NVIDIA łączy wydanie z testami wewnątrz SkyrimNET, platformy moddingowej do NPC w Skyrim, która obsługuje zarówno wnioskowanie w chmurze, jak i lokalne, począwszy od tego samego dnia.

Więc jeśli trafiłeś tu z tweeta, spodziewając się jednego modelu, dostajesz dwa w różnych terminach, w różnych kopertach, do różnych zadań: 15 października dla lokalnego agenta 24GB, 23 października dla postaci z gry 4GB.

Jak to ocenić, nie stawiając na to planu działania

Niezręczna część modelu lokalnego od pierwszego dnia polega na tym, że nie możesz jeszcze odpowiedzieć na jedyne pytanie, które się liczy — czy 2-bitowy checkpoint sprawdzi się przy twoim obciążeniu — a nie możesz też odpowiedzieć na drugie: czy istnieje hostowana ścieżka do porównania. Obie luki są tymczasowe i żadna z nich nie jest powodem, by planować w oparciu o tabelę benchmarków, która nie istnieje.

Praktyczne podejście polega na rozdzieleniu tych dwóch decyzji. Uruchom Bolt 74B lokalnie jako eksperyment w limicie 24GB, który już masz, a ścieżkę produkcyjną pozostaw na tym, co da się wywołać dzisiaj. To właśnie w tej drugiej części infrastruktura routingu zyskuje swoje miejsce: jeden klucz do ponad 200 modeli w cenie katalogowej dostawcy z 0% marży oznacza, że wypróbowanie drugiego lub trzeciego kandydata kosztuje zmianę konfiguracji, a nie drugą umowę, a automatyczne przełączanie awaryjne między dostawcami oznacza, że nieprzetestowana lokalna kompilacja nigdy nie staje się pojedynczym punktem awarii dla działającego agenta.

To także uczciwy sposób odczytania tego, jak NVIDIA sama to przedstawia. „Zaprojektowany specjalnie do uruchamiania lokalnych agentów na RTX Spark” to stwierdzenie o tym, gdzie działa model, a nie o tym, jakie uzyskuje wyniki. Datę 15 października traktuj jako moment, w którym na pytanie można już odpowiedzieć — a nie jako samą odpowiedź.

Co zmieniłoby ten artykuł

Trzy rzeczy, w przybliżonej kolejności według tego, jak bardzo zmieniłyby obraz sytuacji.

• Nazwana licencja i publiczne repozytorium wag.„W pełni otwarte źródło, obejmujące dane treningowe, wagi i przepisy" to najśmielsze twierdzenie w poście NVIDIA i najłatwiejsze do zweryfikowania. Dopóki licencja nie zostanie nazwana, a pliki nie będą możliwe do pobrania, to twierdzenie pozostaje obietnicą.

• Pierwszy niezależny benchmark. Ciekawym porównaniem nie jest Bolt 74B z pełnoprecyzyjnym modelem klasy 70B, z którym nigdy nie konkurował. Jest nim Bolt 74B w 2 bitach przeciwko każdej innej kompilacji mieszczącej się w 24 GB, mierzonej w tym samym środowisku testowym.

• Hostowany endpoint. Bez niego nie ma ceny, o której można by dyskutować, ani sposobu, by kierować do niego ruch. Jeśli pojawi się wersja udostępniana jako usługa, porównanie cen z modelami, które już są na twojej krótkiej liście, staje się konkretne, a ceny typu pass-through stają się warte sprawdzenia jeszcze tego samego dnia.

Dopóki przynajmniej jedno z nich się nie zmaterializuje, właściwą postawą jest zainteresowanie, a nie zaangażowanie. Zapowiedź była prawdziwa, daty są prawdziwe, a model jest prawdziwy. Ewaluacja nie.

Pytania warte rzetelnej odpowiedzi

Czy Nemotron 3.5 Bolt 74B to ten sam model co Nemotron 3.5 Lightning 30B-A3B?

Nie. To różne pozycje w tej samej generacji o różnych kształtach: Bolt ma łącznie 74B z 9B aktywnych, Lightning to 30B łącznie z 3B aktywnymi według nazewnictwa samego NVIDIA. Bolt jest również dostarczany w wersji 2-bitowej o rozmiarze 24GB, podczas gdy NVIDIA opublikowała linię Lightning w wersjach BF16 i NVFP4. Czy dzielą architekturę — tego ogłoszenie nie mówi.

Czy można uruchomić Bolt 74B na 24GB karcie desktopowej, czy tylko na laptopie RTX Spark?

Deklarowanym ograniczeniem ze strony NVIDIA jest zapotrzebowanie na pamięć, a nie konkretna maszyna — 24 GB przy 2 bitach — a wymienione środowiska uruchomieniowe to llama.cpp, vLLM, Ollama, Unsloth i LM Studio, które nie są zarezerwowane wyłącznie dla NVIDIA. To na RTX Spark NVIDIA kieruje marketing, ale nic w ogłoszeniu nie czyni go wymogiem.

Czy OrcaRouter hostuje Nemotron 3.5 Bolt 74B?

Nie dzisiaj — i nie ma jeszcze czego hostować: NVIDIA nie opublikowała żadnego udostępnianego punktu końcowego ani ceny. Jeśli to się zmieni, model będzie można wywołać za pomocą tego samego klucza co wszystko inne w katalogu, w cenie katalogowej dostawcy, bez doliczania marży.

W przypadku modelu, którego tryby awarii wciąż nie są udokumentowane, użytecznym odpowiednikiem jest zapis tego, co już poszło nie tak gdzie indziej: udokumentowane incydenty AI i awarie agentów dotyczące modeli tej klasy są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, wagę, stopień pewności i flagę sporną.