Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B: Co oznacza „Switch” w każdej z nazw

Oba te modele mają około 30B, oba mają w nazwie słowo, które brzmi jak routing, i robią z nim zupełnie różne rzeczy. Granite Switch 4.1 30B — wagi na Hubie od 14 października 2026 — przełącza adaptery: jeden gęsty model bazowy, dwa aktywowane dodatki LoRA, każdy token przechodzi przez pełną sieć. Nemotron 3.5 Lightning 30B A3B, który NVIDIA opublikowała 11 sierpnia 2026, przełącza ekspertów: hybrydowy stos Mamba-2 i MoE, w którym na token uruchamia się tylko około 3 miliardów z 30 miliardów parametrów. Nikt nie porównał tych dwóch modeli w benchmarkach i ten artykuł nie zamierza udawać, że jest inaczej. Naprawdę użyteczne porównanie dotyczy tego, ile każde z tych rozwiązań kosztuje cię na token i co w zamian zwraca.

Właściwe rozróżnienie nie jest pedanterią, ponieważ nazwy wręcz zachęcają do dokładnie błędnego wniosku. „Switch” w Granite Switch odnosi się do lekkiej warstwy przełączającej, która odczytuje tokeny sterujące w danych wejściowych i mówi każdej warstwie dekodera, które wagi LoRA zastosować w tym zakresie tokenów. Nie jest to routing typu mixture-of-experts i nie zmniejsza liczby obliczeń na token ani o jeden FLOP. „A3B” w nazwie NVIDIA jest przeciwieństwem: to wyraźne stwierdzenie, jak niewielka część modelu działa podczas wnioskowania.

Tablica wyników, wymiar po wymiarze

• Parametry — Granite Switch 4.1 30B osiąga łącznie 29 989 814 272 na bazie 28 865 728 512 (+3,89%); Nemotron 3.5 Lightning 30B A3B ma łącznie 30 mld parametrów, z około 3 mld aktywnych na token.

• Architektura — gęsty transformer wyłącznie z dekoderem plus dwa aktywowane adaptery LoRA w porównaniu z przeplataną hybrydą Mamba-2, MoE i mechanizmu attention.

• Obliczenia na token — pełny gęsty przebieg w przód dla 30B w porównaniu z około jedną dziesiątą tego w aktywnych parametrach, co jest całym sensem sufiksu A3B.

• Kontekst — 131 072 tokeny w punkcie kontrolnym Switch; do 1 mln w Nemotron Lightning, przy czym NVIDIA dokumentuje 256 tys. jako praktyczną wartość na pojedynczym H100.

• Tryb rozumowania — brak w szablonie czatu Switch; konfigurowalny przełącznik enable_thinking w Nemotronie.

• Wejście audio — wbudowany enkoder mowy 470M w modelu Switch; brak po stronie NVIDIA.

• Licencja — Apache-2.0 kontra OpenMDW-1.1. To nie ten sam dokument i warunki dalszego wykorzystania się różnią; przeczytaj ten, na którego podstawie faktycznie udostępniasz.

• Sprzęt — karta Switch wymienia Transformers i vLLM w wąskim oknie wersji; NVIDIA dokumentuje Nemotron Lightning na pojedynczym H100 lub A100 80GB, z kompilacją NVFP4 przeznaczoną do wdrożenia.

Co tak naprawdę daje ci checkpoint Granite Switch

Kompozycja jest produktem. Granite Switch 4.1 30B zamraża Granite 4.1 30B i podłącza dwa adaptery — o randze 16 guardian-core klasyfikator bezpieczeństwa na projekcjach uwagi oraz o randze 64 decision adapter we wszystkich siedmiu projekcjach — plus enkoder mowy. Wybór adaptera odbywa się przez szablon czatu, gdy przekażesz adapter_name, więc jest to parametr żądania, a nie druga usługa.

Daje to gęstość możliwości: werdykt bezpieczeństwa, skalibrowany rozkład opcji i transkrypt z jednego procesu — za 1,12 miliarda dodatkowych parametrów ponad bazę, którą i tak zamierzałeś wczytać. Sześć miesięcy temu ten sam projekt wypuścił podglądowy checkpoint z dwunastoma adapterami przy 11,68% narzutu; ukończona wersja ograniczyła to do dwóch przy 3,89%, co oznacza, że IBM wymienia pokrycie na czytelność. Pozostałe dziesięć adapterów wciąż istnieje, a kompozytor zbuduje ci checkpoint z dowolnym podzbiorem.

Koszty są dokładnie tam, gdzie można się ich spodziewać. Nic w mechanizmie adapterów nie przyspiesza modelu bazowego, ponieważ model bazowy jest gęsty i nietknięty — każdy token wciąż przechodzi przez całą sieć. Ścieżka mowy obsługuje wyłącznie angielski, bez wielkich liter i interpunkcji, a — jak mówi sam IBM — nie jest trenowana wspólnie z modelem językowym, więc błędna transkrypcja po cichu zmienia pytanie, na które model odpowiada. A checkpoint jest dostarczany w jednej precyzji, bez oficjalnej skwantyzowanej kompilacji, w zestawieniu z modelem NVIDIA, którego zalecany do wdrożenia wariant NVFP4 jest dostępny na Hubie od początku sierpnia.

Co tak naprawdę mierzą liczby Nemotron

Tabela benchmarków NVIDIA dla modelu Nemotron 3.5 Lightning 30B A3B jest pełniejsza niż tabela IBM dla modelu Switch, a załączony do niej przypis wart jest przeczytania. Liczby — MMLU-Pro 81,94, GPQA Diamond 75,44, SWE-bench Verified 51,56, Terminal-Bench 2.1 24,58, PinchBench 85,37, AA-LCR 52,00 w długim kontekście — NVIDIA opisuje jako zmierzone w ramach własnego spójnego zestawu testowego, z zastrzeżeniem, że mogą się różnić od liczb podawanych przez innych dostawców. To uczciwsze ujęcie, niż udaje się większości kart modeli, ale wciąż są to liczby deklarowane przez dostawcę. NVIDIA opublikowała przepisy w NeMo Gym, dzięki czemu przebiegi mogą odtworzyć inni, co nie jest tym samym, co odtworzenie ich przez kogoś innego.

Bardziej interesujące jest twierdzenie o szybkości, a nie o dokładności. Model 30B z 3B aktywnych parametrów to zakład, że większość pracy agentowej nie wymaga, by cała sieć uruchamiała się przy każdym tokenie, a NVIDIA dołączyła do niego dekodowanie spekulatywne — głowice przewidywania wielu tokenów oraz draftery DFlash i DSpark — aby jeszcze zwiększyć przepustowość. Ustawia też Lightning jako warstwę wykonawczą poniżej większego planera, a nie jako model, któremu zadaje się trudne pytania. To pozycjonowanie należy do NVIDIA i jest właściwym punktem widzenia również dla tabeli benchmarków: to wydajność na poziomie tokenów widać na rachunku.

Pułapka w zestawieniu tych dwóch tablic wyników razem

Dla flagowej możliwości modelu Switch opublikowano jedną liczbę — Decision Index, wersja v0.3, publiczny szybki podzbiór 1 068 wierszy: Wynik ogólny 50,1, przy czym Wiedza 32,4, Język 58,6, Wyszukiwanie 49,8, Narzędzia 76,5 i Sztuka 26,4 — a dla Nemotron Lightning dostępna jest pełna tabela benchmarków. Umieszczenie 50,1 obok 81,94 lub 51,56 byłoby błędem kategorialnym w najczystszej postaci.

Indeks Decyzyjny ocenia, jak dobrze adapter decyzyjny szereguje stały zestaw oznaczonych opcji. Nie jest to miara jakości czatu ani rozumowania modelu bazowego, a model bazowy nie jest modyfikowany przez adapter. Tabela Nemotrona ocenia cały model pod kątem wiedzy, rozumowania, kodowania i długiego kontekstu. Różne osie, różne narzędzia testowe, różni autorzy i brak wspólnego benchmarku między nimi. Oba pochodzą z raportów dostawców. Żaden z nich nie jest porównywalny z drugim, a jedyną uczciwą rzeczą, jaką można zrobić z tą parą, jest odmowa odejmowania ich od siebie.

To, co możesz zasadnie zrobić, to odczytać kształt każdego z nich. Wynik 76,5 Decision Index w kategorii Narzędzia wobec 26,4 w kategorii Sztuki mówi, że adapter warto kierować na decyzje dotyczące wyboru narzędzi, a nie należy mu ufać w klasyfikacji otwartej domeny bez własnej ewaluacji. Wynik Nemotrona 51,56 w SWE-bench Verified wobec najlepszego w tej samej tabeli wyniku 70,12 mówi, że nie jest najsilniejszym agentem kodującym w swoim własnym zestawie porównawczym — NVIDIA umieściła w swojej tabeli wyższy wynik konkurenta, co jest przynajmniej sygnałem, który warto uszanować.

Który, po co

Jeśli Twoim problemem jest długa pętla agenta wykonująca tysiące krótkich decyzji dotyczących narzędzi, ekonomika parametrów wskazuje jeden kierunek: MoE z 3 mld aktywnych parametrów na pojedynczym GPU wykona tę pracę przy ułamku kosztu na token gęstego modelu 30B, a model Switch nie ma mechanizmu, który pozwoliłby zamknąć tę lukę, ponieważ jego „switch” nigdy nie redukuje obliczeń. Dodaj do tego kontekst 1M i przełącznik rozumowania, a model NVIDIA jest po prostu stworzony do takiego obciążenia.

Jeśli twój problem to jeden proces, który musi odpowiedzieć użytkownikowi, wyemitować skalibrowaną decyzję routingu i transkrybować to, co powiedział użytkownik, arytmetyka się odwraca. Nemotron 3.5 Lightning nie ma głowicy decyzyjnej ani żadnej ścieżki audio, a proszenie modelu czatowego, żeby raczył odpowiedzieć jedną literą, nie jest skalibrowanym rozkładem. Granite Switch 4.1 30B daje ci wszystkie trzy z jednego checkpointu za mniej niż 4% dodatkowych wag względem jego wersji bazowej, a to zdolność, której nie kupisz, wybierając lepszy model.

Szczery trzeci przypadek jest tym najczęstszym: wcale nie wybierasz między nimi. Oba są artefaktami do samodzielnego hostowania, oba są na licencji Apache-2.0 lub OpenMDW-1.1, a nie hostowanym endpointem, i żaden z nich nie został niezależnie oceniony. Granite Switch 4.1 30B ma dwa dni i tylko jedną opublikowaną wartość; Nemotron 3.5 Lightning ma dwa miesiące, tabelę od dostawcy i opublikowane przepisy. To za mało, by na tej podstawie planować migrację.

Uzyskanie prawdziwej odpowiedzi bez migracji

Żaden z tych modeli nie znajduje się dziś w katalogu OrcaRouter, więc oba oznaczają korzystanie z Twojego własnego sprzętu i własnych kanałów wydawniczych dostawcy — IBM dla punktu kontrolnego Switch, NVIDIA dla Lightning. Mówienie inaczej byłoby wymyślaniem punktu końcowego.

Platforma zasługuje na swoje miejsce dzięki temu, że kandydata powinno się tanio testować. Jeden klucz obejmuje ponad 200 modeli z automatycznym przełączaniem awaryjnym i przekazuje cenę cennikową dostawcy dalej z 0% narzutu, więc gdy pojawi się hostowana ścieżka do któregokolwiek z tych modeli, postawienie jej obok modelu już działającego na produkcji jest zmianą konfiguracji, a nie cyklem zakupowym. W obliczu dwóch modeli 30B z otwartymi wagami, które oba wyglądają rozsądnie na papierze i z których żadnego nie zmierzył nikt spoza danego dostawcy, decyzją, która ma znaczenie, nie jest to, w którą kartę wierzysz. Liczy się to, jak tanio możesz się przekonać.

Konkluzja

Granite Switch 4.1 30B i Nemotron 3.5 Lightning 30B A3B mają tę samą liczbę parametrów i niemal nic poza tym. Jeden to gęsta baza z przełączalnymi adapterami, która daje trzy zadania na proces przy pełnych gęstych obliczeniach na token; drugi to rzadka hybryda stworzona po to, by każdy token kosztował jak najmniej i by działała w długiej pętli na jednym GPU. Wybieraj na podstawie kształtu obciążenia, a nie tabeli benchmarków — a jeśli masz wynieść z tego jedną rzecz, wynieś poprawkę w nazwach: przełączanie adapterów daje możliwości, rzadkość ekspertów daje przepustowość, a żaden model tutaj nie daje jednego i drugiego.