Karta tytułowa hero: NVIDIA Nemotron 3.5 Lightning 30B A3B, otwarty koń roboczy Nvidii, objaśniony — z chipami statystyk: 30B łącznie, 3B aktywne, 1M kontekstu
Guides & Insights

NVIDIA Nemotron 3.5 Lightning 30B A3B: otwarty agent Nvidii, czyli koń roboczy — wyjaśniamy

Autor

jinhao.song

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Firma Nvidia ogłosiła Nemotron 3.5 Lightning 11 sierpnia 2026 roku i wydała go wraz z czymś, czego większość premier modeli pomija: routerem. NeMo Switchyard, biblioteka open-source, która decyduje, który model ma obsłużyć kolejne wywołanie w pętli agenta, pojawiła się tego samego dnia co model mixture-of-experts z 30 miliardami parametrów, mający zaledwie 3 miliardy aktywnych parametrów — i właśnie o to chodzi. To objaśnienie dotyczy punktu kontrolnego, który Nvidia wydała jako pierwszy, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, czyli surowego, wstępnie wytrenowanego modelu bazowego, a nie wersji referencyjnej dostrojonej do czatu, oraz tego, co cała rodzina mówi o tym, dokąd zmierza serwowanie otwartych modeli.

Jedna uwaga o źródłach, zanim przejdziemy do liczb: każdy benchmark, deklaracja szybkości i dane partnerów w tym tekście pochodzą od Nvidii, a żadne z nich nie zostały jeszcze niezależnie zweryfikowane — model ma zaledwie kilka godzin. Traktuj dane o wydajności jak kartę informacyjną od producenta: są one pomocne i orientacyjne, ale to jeszcze nie wynik na tablicy.

Czym tak naprawdę jest Nemotron 3.5 Lightning

Nemotron 3.5 Lightning to najnowszy i najmniejszy model z otwartej rodziny Nemotron 3 firmy Nvidia. To 30B-parametrowy model MoE, w którym na token aktywnych jest tylko 3B parametrów, zbudowany na hybrydowej architekturze Mamba-2 i MoE, z wybranymi warstwami uwagi i głowami predykcji wielotokenowej (MTP) wbudowanymi podczas dedykowanego etapu wstępnego treningu. Firma Nvidia twierdzi, że model został destylowany z jej flagowego modelu Nemotron 3 Ultra i wytrenowany na ponad 20 bilionach tokenów, a także obsługuje okno kontekstowe o długości do 1 miliona tokenów.

Celem projektu jest niska latencja i koszt przy skalowaniu, a nie ogólna doskonałość na granicy możliwości. Nvidia pozycjonuje Lightning jako „warstwę wykonawczą” zawsze aktywnych agentów — czyli obsługę wysokiego wolumenu prostszych wywołań, które agent wykonuje stale: wywołań narzędzi, przeglądu kodu, segregowania alertów bezpieczeństwa, pytań o rozliczenia, delegowania do podagentów. To praca, w której nie chcesz używać modelu granicznego na każdym kroku; potrzebujesz taniego i szybkiego modelu, który jest wystarczająco dobry. Deklaracje dotyczące szybkości wynikają z architektury: nawet 4× szybsze generowanie odpowiedzi niż w modelach o podobnej wielkości i około 30% szybsze wykonywanie zadań agentowych, według pomiarów Nvidii. Dwa modele wstępne, DSpark i DFlash, zapewniają dekodowanie spekulatywne dostrojone do obsługi średniego i dużego obciążenia współbieżnego.

Trzy punkty kontrolne — i który z nich chcesz

Ta premiera to tak naprawdę trzy osobne pliki do pobrania, a opisywanie „Nemotron 3.5 Lightning” jako jednego modelu pomija kluczowe dla programisty rozróżnienie.

Przedmiotem tego tekstu, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, jest surowy punkt kontrolny po wstępnym trenowaniu — bez nadzorowanego dostrajania, bez RL, bez destylacji. Jest to model bazowy w ścisłym sensie: nie prowadzi czatu po wyjęciu z pudełka i istnieje po to, aby stanowić punkt wyjścia do dalszego wstępnego trenowania, własnego SFT, RL lub destylacji. Jeśli zamierzasz zbudować własny model na bazie wstępnego trenowania Nvidii, to jest plik, którego potrzebujesz.

Wydanie towarzyszące, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, to wagi referencyjne, które przeszły cały pipeline — pre-training, kontynuację MTP, SFT i RL. Jest to model ogólnego przeznaczenia do rozumowania i czatu, ale Nvidia nadal przedstawia go jako punkt wyjścia do dostosowywania, a nie jako artefakt do serwowania produkcyjnego. Do serwowania służy natomiast punkt kontrolny NVFP4 (wydany razem, korzystający z jąder kwantyzacji, których Nvidia używa dla Nemotron 3 Ultra), ukierunkowany na opóźnienia i przepustowość.

Praktyczne wskazówki, po jednej linii na punkt kontrolny:

• Base-BF16 — kontynuacja pre-treningu, post-trening domenowy, destylacja od podstaw. Dalej Ty to poprowadzisz.

• model referencyjny BF16 — zdolny do prowadzenia czatu i rozumowania, ale przeznaczony jako baza do własnego SFT lub RL, nie jako hostowany punkt końcowy.

• NVFP4 — checkpoint zoptymalizowany pod kątem serwowania do wdrożenia na GPU Nvidia.

Większość czytelników sięgających po produkcyjne API chce modeli dostrojonych, a nie bazowych. Baza ma jednak znaczenie, ponieważ Nvidia udostępniła ją na otwartej licencji (OpenMDW-1.1), która obejmuje wagi, dane treningowe i przepisy — surowy pretraining to część, której nie można otrzymać od zamkniętego dostawcy, i to ona sprawia, że cała rodzina należy do ciebie.

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, showing the Text Generation task, Transformers, Safetensors and the OpenMDW-1.1 license

Rejestr benchmarków, uczciwie oznaczony

Oto, co Nvidia raportuje dla bazowego checkpointu we własnych ewaluacjach: MMLU 78.59, MMLU-Pro (5-shot) 67.94, GSM8K 91.28, HumanEval 77.44, MBPP 78.59, ARC-Challenge 92.66, HellaSwag 85.55, WinoGrande 79.95 oraz wynik RULER dla długiego kontekstu na poziomie 69.62 przy 1M tokenów. Dostrojony wariant referencyjny przesuwa wynik tam, gdzie można się tego spodziewać: MMLU-Pro 81.94, GPQA Diamond (bez narzędzi) 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58.

Podawane na pierwszych stronach prędkości również pochodzą od producenta: nawet 4× szybsze generowanie wyników i 30% szybsze wykonywanie zadań agentowych niż modele z tej samej klasy, a także wynik PinchBench na poziomie 86% dokładności w przebiegu obejmującym 10 000 zadań, czyli około 30% szybciej niż Qwen3.6-35B przy podobnej dokładności. Nvidia powołuje się też na Artificial Analysis Intelligence Index wynoszący 24, równy wynikowi gpt-oss-120b — ale warto zwrócić uwagę na pochodzenie tych danych: to Nvidia cytuje wynik dla modelu, którego według stanu na 11 sierpnia nie ma jeszcze na publicznej liście liderów Artificial Analysis. Niezależne laboratoria nie opublikowały dotychczas liczb dotyczących Lightning.

Dla wyobrażenia, gdzie 24 plasuje się w rodzinie, wskaźniki mierzone przez AA dla pozostałych otwartych modeli Nvidii wynoszą 25,4 zarówno dla Nemotron 3 Ultra, jak i Nemotron 3 Super, oraz 14,2 dla Nemotron 3 Nano. Lightning nie jest modelem z najwyższej półki i Nvidia nie twierdzi, że jest; to zakład na stronę szybkości i kosztów na granicy Pareto.

Scoreboard for NVIDIA Nemotron 3.5 Lightning 30B A3B: Active params 3B, Total params 30B, Context up to 1M tokens, MMLU 78.6 (vendor), Output speed up to 4x vs class (vendor), AA Index 24 (Nvidia-cited); footer reads 'Vendor-reported as of Aug 11, 2026 — no independent run yet.'

Do czego służy: warstwa wykonawcza agentów

Propozycja Nvidii to podział pracy: najbardziej zaawansowany model planuje i rozumuje, a tani wykonawca obsługuje tysiące rutynowych wywołań, które sprawiają, że agent faktycznie działa cały dzień. Dlatego to samo ogłoszenie zawiera bibliotekę routingu — Lightning ma być jednym poziomem w większym systemie, a nie całym systemem.

Studia przypadków partnerów są dostarczane przez Nvidię, więc traktuj je jak marketing z liczbami. Najlepiej cel modelu obrazuje CodeRabbit, który – jak twierdzi – dotrenował Lightninga do przeglądu kodu w niespełna trzy godziny za mniej niż 100 dolarów, uzyskując około 4% wyższą dokładność w porównaniu z bazą klasy GPT przy mniej więcej o połowę niższych kosztach wnioskowania. Niezależnie od tego, czy ufasz tym dokładnym liczbom, najważniejszy jest ogólny obraz: model z 3B aktywnych parametrów jest wystarczająco tani, by dostrajać go na własnych danych i serwować na dużą skalę – i to jest cała propozycja wartości.

Matematyka kosztów

Nie ma ceny katalogowej dla Nemotron 3.5 Lightning, bo nie ma czego kupować — wagi są darmowe na licencji OpenMDW-1.1, wraz z danymi treningowymi i recepturami. Ceną jest to, ile dostawca żąda za uruchomienie modelu, a liczba ta będzie się różnić bardziej niż jakość, gdy zewnętrzne API zaczną oferować tę rodzinę. Do prototypowania Nvidia udostępnia go jako mikrousługę NIM na swojej platformie build.nvidia.com, którą można wypróbować za darmo z limitem zapytań i bez karty kredytowej.

Zanim to ocenisz, liczą się dwie kosztowe realia. Po pierwsze, „30B łącznie, 3B aktywne” oznacza, że inferencja jest tania na token, ale pełne 30B i tak musi znajdować się w pamięci każdego GPU — serwowanie nie jest darmowe, a współbieżność przetwarzania wsadowego decyduje o tym, jak szybko faktycznie działa. Po drugie, gdy model o otwartych wagach trafia na kilka hostowanych API, ceny za token u poszczególnych dostawców mogą różnić się wielokrotnie, a ta różnica nie jest sygnałem jakości. W tym właśnie miejscu bramka typu pass-through pokazuje swoją wartość: OrcaRouter przekazuje ceny katalogowe dostawców wprost dalej, z zerową marżą, więc obniżka ceny u dostawcy obowiązuje już tego samego dnia, a zmienność cen pozostaje po stronie rynku. Nemotron 3.5 Lightning nie jest jeszcze dostępny na OrcaRouter — wagi pojawiły się kilka godzin temu — ale sprawdzony wzorzec bezpiecznego wdrażania świeżo wydanego modelu to skierowanie go za mechanizm automatycznego failover, tak aby problem zimnego startu na jednym hoście nie mógł wyłączyć ścieżki produkcyjnej.

Router dołączony do niego

NeMo Switchyard warto zrozumieć, ponieważ to zakład Nvidii na to, jak powinna działać otwarta agentowa sztuczna inteligencja: nie jeden duży model, ale system, który wysyła każdy krok do najbardziej zdolnego i wydajnego dostępnego modelu. To biblioteka open-source, którą integrujesz ze swoim środowiskiem, z pokrętłami umożliwiającymi strojenie pod kątem jakości, opóźnienia lub kosztu. Własny benchmark Nvidii twierdzi, że osiąga dokładność na poziomie czołowych modeli przy koszcie około jednej trzeciej kosztu działania pojedynczego czołowego modelu.

Wyniki partnerów, ponownie raportowane przez Nvidię, są spójne kierunkowo: Boomi twierdzi, że skierowało 59% ruchu do 5× szybszego wyspecjalizowanego modelu, przy 21% niższym opóźnieniu w późniejszych turach; Cognition raportuje 28% niższy średni koszt; Ramp mówi, że osiągnęło wydajność modeli granicznych we własnym SWE-bench przy 58% niższych kosztach. Najbardziej uczciwym punktem danych jest LangChain: 74% niższy koszt w 145 wieloetapowych zadaniach agentowych, przy tylko 7% wywołań kierowanych do modelu granicznego — przy 6% kompromisie w zakresie dokładności. Routing nie jest darmowy; to świadomy kompromis.

Switchyard to biblioteka, co oznacza, że jest to ścieżka budowania na własną rękę: definiujesz politykę, integrujesz ją i obsługujesz. Zarządzaną alternatywą jest hostowany interfejs API routingu, gdzie jeden klucz obejmuje katalog ponad 200 modeli, automatyczne przełączanie awaryjne jest domyślne, a nie czymś, co trzeba konfigurować, a DSL routingu pozwala komponować kilka modeli w jedno wywołanie. Własne wyniki testów Nvidii — 59%, 74%, 58% — są najsilniejszym argumentem za tym wzorcem, niezależnie od warstwy, na której go uruchamiasz.

Jak to uruchomić dzisiaj

Wsparcie od pierwszego dnia jest szerokie. Punkty kontrolne działają lokalnie na komputerach z RTX, sprzęcie DGX Spark, DGX Station i Jetson, a w centrum danych na GPU Hopper i Blackwell. Ogłoszony ekosystem obejmuje vLLM, SGLang, llama.cpp, Ollama, LM Studio, Unsloth i TensorRT-LLM, a także kontener NIM dla infrastruktury Nvidii. Do post-treningu Nvidia wydała również otwarty zestaw danych RL, Nemotron-RL-Agentic-Terminal-Pivot, ukierunkowany na możliwości agentów kodujących — przydatny, jeśli planujesz przeprowadzić własny krok RL w oparciu o model bazowy.

Screenshot of the NVIDIA developer blog post announcing Nemotron 3.5 Lightning for long-running agent workloads, dated August 11, 2026

Kto powinien działać teraz

Z tego wydania skorzystają trzy grupy, a każda powinna zrobić co innego. Jeśli budujesz modele — kontynuowane pretrenowanie, dotrenowanie domenowe, destylacja — checkpoint Base-BF16 jest tym, co warto pobrać, i to prawdziwa nowość: Nvidia nie udostępniła wcześniej surowego pretreningu klasy 30B na tej licencji. Jeśli serwujesz modele, warto zbenchmarkować checkpoint NVFP4 i ścieżkę NIM względem tego, co już uruchamiasz dla obciążeń agentowych; profil 3B-active to sedno całej oferty. A jeśli jesteś programistą aplikacji, uczciwa odpowiedź brzmi: odczekaj chwilę — dostrojone modele nie są jeszcze dostępne w hostowanych API w żadnej stabilnej formie, niezależne wyniki pojawią się za kilka tygodni, a obraz kosztów będzie jaśniejszy, gdy rynek wyceni otwarty model MoE klasy 30B.

Na co zwrócić uwagę dalej: pierwszy niezależny przebieg na Artificial Analysis, który potwierdzi lub ostudzi twierdzenie Index-24; ceny, które pierwsi dostawcy hostingu ustawią za dostrojone punkty kontrolne; oraz jak często własne liczby Nvidii ze Switchyard pojawiają się w benchmarkach innych osób. To premiera dotycząca wydajności i routingu, a nie nowej granicy — i to, a nie arkusz specyfikacji, jest sednem sprawy.

Najczęściej zadawane pytania

Czy mogę używać checkpointu Base-BF16 do czatu bez dodatkowej konfiguracji?

Nie. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 to surowy, wstępnie wytrenowany punkt kontrolny bez zastosowanego SFT ani RL — nie jest dostrojony do instrukcji. Opcją umożliwiającą czat i rozumowanie jest bliźniacza NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 wersja referencyjna, która przeszła pełny czteroetapowy proces; wersja bazowa istnieje po to, aby była dalej dostrajana, a nie wdrażana bez zmian.

Czy Artificial Analysis Index o wartości 24 jest niezależnym wynikiem?

Nie — jeszcze nie. Ta liczba to wynik podawany przez Nvidię dla modelu, który według stanu na 11 sierpnia 2026 r. nie pojawia się jeszcze na publicznej tablicy wyników Artificial Analysis. Niezależne laboratoria nie opublikowały wyników Nemotron 3.5 Lightning, więc traktuj każdą liczbę w materiałach premierowych jako dane od producenta, dopóki nie pojawi się test przeprowadzony przez stronę trzecią.