Nemotron 3.5 Bolt kontra Kimi K3: pobranie 24 GB przeciwko czytnikowi o 2,8 biliona parametrów

Uczciwa, krótka odpowiedź brzmi: te dwa modele nie rywalizują o to samo zadanie, a powód da się zmierzyć jedną liczbą. Kimi K3 ma 1 048 576 tokenów kontekstu. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB ma 262 144. Jeśli twoim zadaniem jest „przeczytaj cały ten korpus i odpowiedz w jednym przebiegu”, checkpoint 24GB zostaje zdyskwalifikowany, zanim cokolwiek innego w nim zacznie mieć znaczenie — a jeśli twoim zadaniem jest „uruchom na stacji roboczej bez sieci, bez licznika i bez dostawcy w pętli”, Kimi K3 również nie wchodzi w grę. Kimi K3 to 2,8-bilionowy model mieszaniny ekspertów opublikowany przez Moonshot AI 15 lipca 2026 r. w ramach zastrzeżonego hostowanego API. Nemotron 3.5 Bolt 74B-A9B 24GB to plik z otwartymi wagami, który przy każdym tokenie zużywa 9 miliardów ze swoich 74 miliardów parametrów i mieści się w 24GB pamięci.

Checkpoint Bolt pojawił się na Hugging Face 7 października 2026 r. bez żadnego dołączonego do niego ogłoszenia. Własny wpis NVIDIA nazywający model — oraz jego 4GB odpowiednika, Nemotron 3.5 Bolt E4B — pojawił się 15 października, osiem dni później. Ta kolejność jest warta poznania, ponieważ określa, co można sprawdzić: osiem dni publicznego zapisu składa się z pliku do pobrania i karty modelu, a tekst, który to wyjaśnia, pojawił się później.

Do czego służy każdy model

Kimi K3 to flagowy model Moonshot i jego najbardziej zaawansowane wydanie do tej pory: rzadki model typu mixture-of-experts o 2,8 biliona parametrów, z około 104 miliardami parametrów aktywnych na token, stworzony do długoterminowego kodowania i kompleksowej pracy z wiedzą end-to-end, przyjmujący tekst i obrazy oraz zwracający tekst. Jest udostępniany jako usługa, a nie dostarczany. Nie ma go do pobrania, nie ma skwantyzowanej wersji do uruchomienia lokalnie ani wersji wystarczająco małej na laptopa.

Nemotron 3.5 Bolt to konstrukcja odwrotna. NVIDIA wzięła swój model 120B-A12B Nemotron 3.5 Super VL, zastosowała kompresję kierowaną przez router, którą nazywa Star Elastic, aby osiągnąć 74B-A9B, a następnie skwantyzowała wynik do 2,0625 bita na element ekspercki — format IQ2_XXS — z destylacją świadomą kwantyzacji, aby odzyskać dokładność utraconą w wyniku kwantyzacji. Szkieletem jest hybryda Mamba-2 i Transformer, którą dostawca nazywa LatentMoE, z enkoderem wizyjnym C-RADIO v4-H do danych wejściowych w postaci obrazu i wideo. Działa pod vLLM na układach Ampere, Hopper i Blackwell oraz na sprzęcie RTX Spark i DGX Spark przez llama.cpp, na licencji OpenMDW-1.1, która zezwala na użytek komercyjny.

Czytanie długiego korpusu, wyceniony

W tym miejscu porównanie staje się arytmetyką, a nie kwestią preferencji. Kimi K3 jest routowany przez OrcaRouter w cenie katalogowej Moonshot, bez żadnych dodatków: 3,00 USD za milion tokenów wejściowych, 15,00 USD za milion tokenów wyjściowych i odczyty z pamięci podręcznej po 0,30 USD. Jego p50 czasu do pierwszego tokenu w naszym katalogu wynosi 7,02 sekundy, a p95 to 10,00 sekundy; w ciągu ostatnich siedmiu dni przepuścił przez nasz katalog 990,6 mln tokenów ruchu routowanego — czytanie długiego kontekstu na dużą skalę to realne obciążenie, a nie eksperyment myślowy.

Nemotron 3.5 Bolt nie ma ceny, ponieważ nie ma czego wyceniać. Nie istnieje dla niego hostowany endpoint, API dostawcy ani cennik, a Artificial Analysis właśnie z tego powodu podaje zarówno jego szybkość, jak i koszt na zadanie Intelligence Index jako N/A. Zamiast tego ma pułap pamięci, który kupuje się raz, oraz koszt krańcowy, który po zaokrągleniu równa się rachunkowi za prąd. W przypadku potoku, który co noc odczytuje stały korpus, różnica między 3 USD za milion tokenów wejściowych a zerem nie jest rabatem — to inny model rozliczeń, a próg rentowności to kwestia nakładów inwestycyjnych, na którą odpowiada twój zespół finansowy, a nie ten artykuł.

Wizja nie jest rozstrzygającym czynnikiem, za jaki ludzie ją uważają

Oba modele przyjmują obrazy. I na tym podobieństwa się kończą.

• Wejście — Kimi K3 akceptuje tekst i obrazy; Nemotron 3.5 Bolt akceptuje tekst, obrazy i wideo. Dla agenta obserwującego nagranie ekranu lub pobierającego klatki ze strumienia kamery, tylko jednemu z nich można przekazać plik bezpośrednio.

• Precyzja ścieżki wizyjnej — Bolt zawiera specjalnie zaprojektowany enkoder wizyjny C-RADIO v4-H i dziedziczy swoje multimodalne zachowanie po kliencie Super VL, z którego został skompresowany; rozumienie wizualne Kimi K3 jest udokumentowane jako natywne, ale nie jest częścią modelu, którą Moonshot wysuwa na pierwszy plan. Własna tabela NVIDIA podaje wynik wizyjny WebArena 50,86 dla Bolt; traktuj to jako raportowane przez dostawcę.

• Kontrola rozumowania — Kimi K3 nie udostępnia temperatury, top_p ani seeda, a głębokość rozumowania ustawia się wyłącznie parametrem reasoning-effort; tryb rozumowania Bolt to przełącznik szablonu czatu, enable_thinking true lub false, odziedziczony z tego samego klienta Super VL.

• Spekulacja — Bolt jest dostarczany z drafterem LiLiCorr napędzanym przez DFlash, który proponuje siedem tokenów do przodu na krok, co jest mechanizmem stojącym za twierdzeniem NVIDIA o 84 tokenach na sekundę w AIPerf SPEED-Bench. Nie ma równoważnej dźwigni na hostowanym punkcie końcowym; dostajesz to, co zapewnia operator.

Zmierzona luka i z czego się składa

Artificial Analysis umieszcza Kimi K3 na 43,6 w swoim Intelligence Index, a Nemotron 3.5 Bolt na 21. Nie da się tego odczytać jako bliskości. Wiersze uzupełniające Kimi K3 są mocne tam, gdzie potrzebuje ich czytelnik długiego kontekstu — AA Coding Index wynoszący 76,2 na dziewiątym miejscu spośród 138 zmierzonych modeli, wynik GPQA Diamond 93,5 oraz wskaźnik przywoływania długiego kontekstu 88,7, czyli liczba, która mówi, że okno miliona tokenów jest użyteczne, a nie tylko deklarowane.

Wynik 21 modelu Bolt to rezultat innego rodzaju. To czwarty najwyższy wynik wśród 67 modeli w swojej klasie filtrowanej pod kątem śladu pamięciowego, przy medianie klasowej wynoszącej 8, a Artificial Analysis opisuje go jako jeden z wiodących modeli z otwartymi wagami o podobnej wielkości. Oba te wyniki należy właściwie rozumieć tak, że jeden mierzy, co może osiągnąć czołowe laboratorium bez ograniczeń pamięci, a drugi — co może pomieścić 24GB. Dwadzieścia dwa punkty indeksu to cena tego ograniczenia, a nie dowód, że mniejszy model został źle zbudowany.

Po stronie Bolt brakuje jakiegokolwiek niezależnego pomiaru tego, jak szybki jest. NVIDIA podaje co najmniej 80 tokenów na sekundę dekodowania jako cel projektowy i 84 w swoim własnym benchmarku, a 83,99 tokena na sekundę w uruchomieniu llama.cpp na Surface Laptop Ultra z 128 GB. Na dzień pisania tego tekstu żadna strona trzecia nie opublikowała danych dotyczących przepustowości ani opóźnienia dla wag 24 GB. Opóźnienie Kimi K3, dla kontrastu, jest zmierzone i publiczne — 7,02 sekundy p50 do pierwszego tokena, 10,00 sekund p95 — i to są liczby, na których należy się opierać przy planowaniu, a nie liczby dostawcy.

Gdzie warstwa routingu zmienia odpowiedź

Kimi K3 znajduje się w naszym katalogu jako kimi/kimi-k3 w cenie katalogowej Moonshot z doliczoną marżą 0%, obsługiwany tym samym kluczem co ponad 200 innych modeli, z automatycznym przełączaniem awaryjnym między dostawcami nadrzędnymi, gdy jeden z nich ulegnie degradacji. Nemotron 3.5 Bolt nie znajduje się w naszym katalogu — nie hostujemy żadnego checkpointu NVIDIA i nie ma żadnego endpointu Bolt, który można wywołać — więc pytanie o routing nie dotyczy tego, który z tych dwóch obsługujemy. Chodzi o to, jak dwie połowy prawdziwego potoku komunikują się ze sobą.

Wzorzec, który się sprawdza, to lokalny czytnik i hostowany reasoner. Bolt działa na twoim sprzęcie i obsługuje przebiegi wysokiej częstotliwości, w których dane nie mogą opuścić budynku, a wolumen sprawiłby, że rozliczanie za każdy token byłoby bolesne. Kimi K3 obsługuje żądania wymagające okna miliona tokenów lub rozumowania na skalę frontier, po 3 i 15 dolarów za milion tokenów. Umieść regułę routingu przed oboma, a podział staje się linią konfiguracji, a nie refaktoryzacją: żądanie przekraczające lokalny budżet kontekstu trafia do Kimi K3, a wszystko inne pozostaje na stacji roboczej. Fuzja modeli to wariant, o którym warto wiedzieć, jeśli drogie wywołania są tymi ważnymi — kilka modeli odpowiada wspólnie na ten sam prompt, a ty bierzesz to, co się zgadza.

Co obejrzeć

Konkretny dowód, który rozstrzygnąłby to zestawienie, jest wąski i bliski. Pierwszy niezależny test przepustowości i opóźnień na wagach modelu Bolt 24 GB albo potwierdziłby 84 tokeny na sekundę NVIDII, albo zmniejszyłby tę wartość; opublikowana cena hostingu modelu Bolt zamieniłaby kosztową połowę tego porównania w arytmetykę; a drugi pomiar przywoływania długiego kontekstu dla Kimi K3 potwierdziłby, że jego 88,7 jest właściwością modelu, a nie właściwością jednego zestawu testowego.

Do tego czasu podsumowanie jest węższe niż narracja któregokolwiek z dostawców. Kimi K3 to lepszy model w każdym wymiarze, jaki potrafi zmierzyć benchmark, i jedyny z tych dwóch, który możesz wywołać jeszcze dziś po południu. Nemotron 3.5 Bolt to jedyny z tych dwóch, który nadal działa, gdy sieć nie działa, i jedyny, którego koszt krańcowy na token wynosi zero. Wybierz drugi do pracy, która nigdy nie powinna była zostać nigdzie wysłana, a pierwszy do pracy, która wymaga zasięgu.