Nemotron 3.5 Bolt vs GPT-5.6 Sol: jeden z tych dwóch modeli ma cenę

Nie można porównywać tych dwóch modeli pod względem kosztów, i to jest najbardziej użyteczna rzecz w tym porównaniu. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB to plik o rozmiarze 24 GB: pobierz go, a koszt krańcowy milionowego tokenu to prąd. GPT-5.6 Sol to hostowany flagowy model rozliczany według stawki 4,00 USD za milion tokenów wejściowych i 20,00 USD za milion tokenów wyjściowych, z opublikowanym p50 czasu do pierwszego tokenu wynoszącym 1,63 sekundy i 535,5 miliona tokenów ruchu w ciągu ostatnich siedmiu dni. Jeden z tych dwóch ma cennik. Drugi ma wymóg sprzętowy, który jest innym rodzajem rachunku pojawiającym się jednorazowo.

Oba modele są prawdziwe i oba są już dostępne. Checkpoint NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB leżał na Hugging Face od 7 października 2026 r., a dołączona była do niego wyłącznie karta modelu, natomiast własne ogłoszenie producenta dotyczące linii Bolt nastąpiło 15 października — osiem dni później, w poście, w którym wymieniono zarówno ten model, jak i model siostrzany 4GB. GPT-5.6 Sol widnieje w cenniku OpenAI od 9 lipca 2026 r. Jeśli w tym tygodniu wybierasz między nimi, decyzja nie polega na tym, który jest mądrzejszy. Polega na tym, czy obciążenie może opuścić twoją maszynę.

Co mierzy różnica dwadzieścia jeden do pięćdziesięciu dziewięciu?

Artificial Analysis przyznaje Nemotronowi 3.5 Bolt 74B-A9B wynik 21 w swoim Intelligence Index, plasując go na czwartym miejscu spośród 67 modeli w klasie porównawczej, w której został umieszczony. GPT-5.6 Sol znajduje się w wysokich pięćdziesiątkach w tej samej wersji indeksu. Różnica gdzieś około czterdziestu punktów jest ogromna, a sformułowana w ten sposób kończy spór, zanim się zacznie.

Ta różnica to także dwa różne pomiary ukryte pod jedną liczbą. 21 to najlepszy wynik, jaki osiągnął jakikolwiek model open-weight przy takim zapotrzebowaniu na pamięć — Artificial Analysis odnotowuje medianę dla porównywalnych modeli open-weight na poziomie 8 i zauważa, że Bolt plasuje się „wśród wiodących modeli pod względem inteligencji w porównaniu z innymi modelami open weight o podobnym rozmiarze”. Około 59 to wynik, jaki generuje laboratorium z czołówki, gdy pamięć nie jest ograniczeniem. Żadna z tych liczb nie jest błędna. Odpowiadają na różne pytania: ile inteligencji mieści się w 24 GB, a ile inteligencji można kupić za pieniądze.

To, czego panel nie mógł zmierzyć, jest ciekawsze niż to, co mógł. Strona Artificial Analysis dla Bolt podaje prędkość jako N/A, a koszt na zadanie Intelligence Index jako N/A, z prostego powodu: nie ma hostowanego punktu końcowego, który można by wywołać. Każda wartość prędkości, jaka istnieje dla tego modelu, pochodzi z własnego benchmarku NVIDIA: notatka badawcza określa docelowy cel projektowy na poziomie co najmniej 80 tokenów na sekundę dekodowania i raportuje 84 tokeny na sekundę w AIPerf SPEED-Bench na RTX Spark, a także 83,99 tokenu na sekundę w uruchomieniu llama.cpp na Surface Laptop Ultra z 128 GB. Być może są całkiem dokładne. Nikt poza NVIDIA ich nie odtworzył, więc dopóki ktoś tego nie zrobi, należy traktować je jako twierdzenie dostawcy.

Gdzie hostowany model ma przewagę strukturalną

Trzy różnice wcale nie dotyczą inteligencji, a każda z nich dyskwalifikuje plik lokalny dla pewnej klasy zadań.

• Kontekst — GPT-5.6 Sol obsługuje okno o rozmiarze 1 050 000 tokenów z maksymalnym wyjściem 128 000 tokenów; Nemotron 3.5 Bolt obsługuje do 262 144 tokenów. Czterokrotnie szersze okno nie jest funkcją luksusową, gdy zadaniem jest repozytorium lub archiwum umów w jednym żądaniu. Okno Bolta musi też dzielić 24 GB z pamięcią podręczną KV, obrazami, klatkami wideo i historią rozmowy, co oznacza, że praktyczny limit pojawia się wcześniej, niż sugeruje specyfikacja.

• Typy danych wejściowych — GPT-5.6 Sol przyjmuje tekst, obrazy i pliki; Nemotron 3.5 Bolt przyjmuje tekst, obrazy i wideo oraz zwraca tekst. To prawdziwa przewaga Bolta w przypadku wideo i realna luka w przypadku dokumentów, ponieważ plik PDF przekazany jako plik nie musi być rasteryzowany, paginowany ani analizowany klatka po klatce.

• Dostępność — GPT-5.6 Sol to adres URL. Nemotron 3.5 Bolt to wdrożenie vLLM wymagające układów Ampere, Hopper lub Blackwell albo uruchomienia llama.cpp na urządzeniu RTX Spark lub DGX Spark. Jednego z nich możesz zacząć używać w ciągu czterech minut.

Istnieje czwarta różnica, która dotyczy mniej możliwości, a bardziej rozliczania: każde wywołanie modelu hostowanego generuje pozycję rozliczeniową, a każde wywołanie modelu lokalnego nie. W pętli klasyfikacji lub ekstrakcji o dużym wolumenie ta odwrotność ma większe znaczenie niż czterdzieści punktów indeksu.

Co tak naprawdę daje posiadanie pliku

Nemotron 3.5 Bolt 74B-A9B to rzadki model mieszaniny ekspertów o 74 miliardach parametrów i 9 miliardach aktywnych na token, zbudowany na hybrydowym szkielecie Mamba-2 i Transformer, który NVIDIA nazywa LatentMoE, z doczepionym enkoderem wizyjnym C-RADIO v4-H do zadań multimodalnych. Jest artefaktem kompresji w najbardziej dosłownym sensie: NVIDIA wzięła model Nemotron 3.5 Super VL 120B-A12B, zastosowała sterowane przez router wyszukiwanie, które nazywa Star Elastic, aby zmniejszyć go do 74B-A9B, a następnie przeprowadziła destylację uwzględniającą kwantyzację aż do 2,0625 bitu na wagę eksperta — format IQ2_XXS — aby zmieścić się w 24GB bez ponownego trenowania od zera. Licencja to OpenMDW-1.1, która zezwala na użycie komercyjne i niekomercyjne.

Wynikają z tego dwie konsekwencje. Pierwsza jest taka, że model działa obok innych aplikacji na stacji roboczej, a nie zamiast nich, i to właśnie sprawia, że lokalny agent jest w ogóle wykonalny. Druga jest taka, że jest dostarczany z wbudowaną spekulacją: drafter LiLiCorr prowadzony przez DFlash proponuje siedem tokenów z wyprzedzeniem, i właśnie stąd pochodzi znacząca część tych 84 tokenów na sekundę.

Własna tabela benchmarków dostawcy, której nikt poza NVIDIA nie odtworzył, stawia checkpoint 24 GB ponad każdym modelem referencyjnym w tej samej tabeli — Qwen3.6 35B, Gemma 4 26B i własny Nemotron 3.5 Lightning 30B-A3B firmy NVIDIA — w GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) i BrowseComp (66.75). Traktuj je jako twierdzenia o tym, jak skompresowany model 74B wypada w porównaniu z nieskompresowanymi modelami o jednej trzeciej jego rozmiaru, co jest dokładnie tym, co mają one pokazywać, a nie jako porównanie z hostowanym flagowcem.

Uczciwie wyceniając obie połowy

Hostowana część ma jednoznaczną cenę. GPT-5.6 Sol znajduje się w katalogu OrcaRouter jako openai/gpt-5.6-sol w cenie katalogowej dostawcy OpenAI przekazywanej z doliczoną marżą 0% — 4,00 USD za milion tokenów wejściowych i 20,00 USD za milion tokenów wyjściowych, te same liczby na naszej stronie co u dostawcy, co oznacza, że zmiana po stronie dostawcy trafia na naszą stronę tego samego dnia, a nie dopiero przy kolejnym odnowieniu umowy. Wejście liczące 20 000 tokenów i wyjście liczące 3000 tokenów kosztuje 0,08 USD na wejściu i 0,60 USD na wyjściu, czyli około 0,68 USD za wywołanie.

Lokalna część nie ma ceny, którą bylibyśmy skłonni wymyślić. Nie ma hostowanego endpointu dla Nemotron 3.5 Bolt, nie ma cennika ani zewnętrznej platformy, która mierzyłaby jego zużycie i na którą moglibyśmy cię wskazać. Wycenianie go oznacza wycenę GPU, poboru mocy i okresu amortyzacji — arytmetyka, która należy do twojego arkusza kalkulacyjnego, a nie do naszego, bo odpowiedź zależy wyłącznie od tego, jak intensywnie go używasz.

Ta asymetria jest tym, gdzie warstwa routingu robi coś konkretnego, a nie dekoracyjnego. Nemotron 3.5 Bolt nie znajduje się w naszym katalogu i nie udostępniamy go; nic tutaj nie stanowi oferty hostowania checkpointu NVIDIA. Pojedynczy endpoint daje jednak możliwość utrzymania lokalnej i hostowanej części przepływu pracy pod jednym kluczem, dzięki czemu żądanie można wysłać do GPT-5.6 Sol, gdy potrzebuje okna o rozmiarze miliona tokenów lub wejścia plikowego, a do własnego wdrożenia Bolt, gdy ich nie potrzebuje – z regułą decydującą o tym, co jest czym, zapisaną raz, zamiast zakodowaną na stałe w każdym serwisie. Jeśli hostowany dostawca zacznie działać gorzej, automatyczne przełączenie awaryjne przenosi żądanie, zamiast doprowadzać do jego niepowodzenia.

Który wybrać

• Wybierz Nemotron 3.5 Bolt 74B-A9B 24GB, gdy dane nie mogą opuścić budynku, gdy obciążenie obejmuje wideo, gdy wolumen jest na tyle wysoki, że rozliczanie za token staje się dominującym kosztem, lub gdy chcesz uruchomić agenta na sprzęcie, który już posiadasz. Pogódź się z oknem 262K i wynikiem indeksu wynoszącym około jednej trzeciej wyniku modelu hostowanego. Zweryfikuj deklarowaną przepustowość na własnym urządzeniu, zanim zaczniesz planować na jej podstawie zasoby.

• Wybierz GPT-5.6 Sol, gdy zadanie wymaga najszerszego kontekstu, wprowadzania plików, najsilniejszego dostępnego rozumowania i stojącej za tym umowy wsparcia. Za ten przywilej zapłać 4 USD i 20 USD za milion tokenów, i pamiętaj, że maksymalna długość wyjścia wynosząca 128K to dłuższa pojedyncza odpowiedź, niż 24 GB pamięci pozwoli wygodnie pomieścić.

• Uruchamiaj oba, gdy przepływ pracy dzieli się w sposób naturalny, co ma miejsce w większości systemów agentowych. Lokalny plik obsługuje połowę zadań o wysokiej częstotliwości, niskim ryzyku i wrażliwych na prywatność; model hostowany obsługuje żądania wymagające szerszego zasięgu.

Otwarte pytanie jest tym samym, które postawił ostatni skompresowany Nemotron i na które nikt nie odpowiedział: pierwszy niezależny pomiar przepustowości i opóźnienia wag 24 GB, wykonany przez kogoś, kto nie pracuje w NVIDIA. Dopóki taki pomiar nie istnieje, dolna granica inteligencji tego modelu jest zweryfikowana zewnętrznie, a jego górna granica szybkości już nie — a w przypadku wdrożenia lokalnego szybkość to ta połowa, którą się odczuwa.