Ripple 65B Preview kontra Nemotron 3.5 Bolt 74B: najpierw rachunek za VRAM

Oba te modele są sprzedawane z tą samą obietnicą — możesz uruchomić poważnego programistę agentowego na sprzęcie, który posiadasz. Ripple 65B Preview wymaga około 130 GB pamięci w BF16, zanim załadujesz choćby jeden token kontekstu. Nemotron 3.5 Bolt 74B-A9B wymaga 24 GB, ponieważ NVIDIA skompresowała go do 2,0625 bita. To pięciokrotna różnica w sprzęcie, który musisz kupić, i rozstrzyga to porównanie, zanim tabela benchmarków zdąży dojść do głosu.

I to jest właśnie ciekawe, ponieważ w przypadku jednego benchmarku, który oba laboratoria opublikowały w tej samej wersji, model o małym rozmiarze nie jest zwycięzcą. NVIDIA Nemotron 3.5 Bolt 74B-A9B raportuje 50,98 w Terminal-Bench 2.1. Ricursive Ripple 65B Preview raportuje 80,5 w tej samej rewizji. Trzydzieści punktów, ten sam egzamin — ale przeprowadzony w warunkach tak różnych, że uczciwa interpretacja jest węższa, niż sugeruje nagłówek.

Arytmetyka, przede wszystkim

Ripple 65B Preview jest modelem gęstym. Wszystkie 65 miliardów parametrów działa przy każdym tokenie, więc przy BF16 same wagi to 65 × 2 bajty = 130 GB, i to jeszcze przed KV cache. Ricursive faktycznie dostarcza wariant NVFP4, który zmniejsza wagi do około jednej czwartej tej wartości — powiedzmy 33 GB plus cache — i to jest wersja, która czyni wdrożenie na pojedynczym GPU lub DGX Spark realistycznym. Deklarowanym celem firmy jest DGX Spark, z 250 tokenami na sekundę na dwóch B200 przy rozmiarze partii 8 przed własnymi kernelami.

Nemotron 3.5 Bolt 74B-A9B to model typu Mixture-of-Experts z 9B aktywnych parametrów, wywodzący się od nadrzędnego modelu NVIDIA Nemotron 3.5 Super VL 120B-A12B przez zmniejszenie top-K ekspertów z 22 do 9 za pomocą sterowanego routerem wyszukiwania, które firma nazywa Star Elastic. Przy 2,0625 bita w IQ2_XXS ma około 19 GB wag i mieści się na karcie 24 GB przy wielkości partii 1. To cały cel projektowy — i został osiągnięty.

• Pamięć — ~130 GB BF16 / ~33 GB NVFP4 w porównaniu z ~19 GB przy 2,06 bita, karta 24 GB przy batchu 1

• Kształt — 65B gęsty vs 74B łącznie / 9B aktywnych MoE

Kontekst — deklarowane 1 mln vs 262 144, a receptury vLLM zalecają 64 tys. na karcie 28 GB

• Modalność — tylko tekst vs tekst, obraz i wideo na wejściu

• Licencja — Apache 2.0 vs OpenMDW-1.1

• Cena — $0.20 / $0.60 za milion na pierwszym hostowanym endpoincie w porównaniu z całkowitym brakiem ceny za token w hostowanej usłudze

Ten sam harness, inne warunki

Terminal-Bench 2.1 to rzadki przypadek, w którym oba laboratoria podały tę samą wersję, co sprawia, że porównanie 80,5 z 50,98 jest uzasadnione w sposób, w jaki większość rozmów o benchmarkach między modelami nie jest. Ale uzasadnienie to nie to samo co uczciwość, a trzeba pamiętać o dwóch asymetriach.

Pierwszą jest kwantyzacja. Wartość 50.98 firmy NVIDIA to liczba podana przez producenta dla modelu dystrybuowanego głównie jako wersja 2-bitowa; główny wynik GPQA karty, 86.43, jest mierzony na tym skompresowanym checkpointcie. Ricursive wyraźnie stwierdza, że jego wyniki uzyskano "{{1}}przy maksymalnych poziomach wysiłku w BF16{{/1}}" — w wersji pełnej precyzji. Porównywanie przebiegu 2-bitowego z przebiegiem BF16 to porównywanie dwóch różnych modeli, które przypadkiem współdzielą repozytorium.

Po drugie, wynik liczbowy podany przez NVIDIA jest bardziej konserwatywnym twierdzeniem. Firma opublikowała rzeczowy wynik 50,98 na Terminal-Bench, jednocześnie publikując 86,43 na GPQA Diamond; niezależni ewaluatorzy umieścili od tego czasu model na 21. miejscu w Intelligence Index Artificial Analysis — ocenianym według v4.3.2, czyli innej wersji indeksu niż przebudowana v5, na podstawie której podaje się wyniki innych modeli w tym przedziale cenowym. Nie zestawiaj tego 21 z liczbą z v5 i nie odejmuj. Wersje indeksu nie są wymienne, a ich mieszanie to najczęstszy błąd w postach porównawczych napisanych w tym tygodniu.

Gdzie model 24 GB wygrywa bezapelacyjnie

GPQA Diamond to najoczywistszy przypadek. Ripple 65B Preview podaje 85,2. Nemotron 3.5 Bolt 74B-A9B podaje 86,43. Model, który mieści się na jednej karcie konsumenckiej, wyprzedza w pytaniach naukowych na poziomie magisterskim o 1,2 punktu — różnica wystarczająco mała, by być szumem, ale nie jest to różnica na korzyść Ripple. Gęsty model 65B trenowany od zera na 12 bilionach tokenów nie uzyskał przewagi wiedzy nad skompresowanym modelem MoE 74B destylowanym z większego modelu nadrzędnego i nie ma powodu, by miał ją uzyskać.

Nemotron przyjmuje również obrazy i wideo. Ripple przyjmuje tekst. Jeśli twój agent musi spojrzeć na wyrenderowaną stronę, wykres lub zrzut ekranu nieudanego zadania CI, to nie jest różnica w benchmarku, którą można obejść odpowiednim promptem.

Zalety Ripple'a widać też w innych miejscach jego własnej karty: 76,5 w SWE-bench Verified, 71,67 w MCP Atlas, 79,2 w IFBench, 83,8 w FORTRESS Adversarial. To mocne wyniki jak na model 65B i wskazują na to samo co wynik Terminal-Bench — to model dotrenowany specjalnie pod użycie narzędzi i kodowanie agentowe, kosztem wszechstronności.

Deklaracje dotyczące prędkości, których nie można porównać

Wynik Ricursive na poziomie 250 tokenów na sekundę to dwa B200 przy rozmiarze partii 8. Wynik NVIDII na poziomie 83,99 tokena na sekundę to laptopowa maszyna RTX Spark z mechanizmem spekulacyjnego draftowania, w benchmarku kodowania AIPerf. To nie są te same pomiary na tym samym sprzęcie, a cytowanie ich w jednym zdaniu byłoby nieuczciwe. Można powiedzieć jedynie coś kierunkowego: Ripple potrzebuje akceleratorów klasy centrów danych, aby osiągnąć swoją liczbę, a Nemotron został dostrojony tak, aby zapewnić użyteczne tempo na maszynie mieszczącej się pod biurkiem.

Praktycznym przelicznikiem jest przepustowość na dolara wydanego na sprzęt i nikt nie opublikował tego dla żadnego z tych modeli. Jeśli wybierasz między nimi, to właśnie tę liczbę powinieneś wygenerować samodzielnie, bo zależy ona od twojego rozmiaru partii, długości kontekstu oraz tego, czy uruchamiasz kompilację NVFP4, czy BF16.

Dwie licencje permisywne, jedna istotna różnica

Ripple jest objęty licencją Apache 2.0, która nie wymaga wyjaśnień i nie narzuca żadnego progu. Nemotron 3.5 Bolt jest udostępniany na licencji OpenMDW-1.1, własnej otwartej licencji modelowej NVIDIA, która pozwala na użycie komercyjne, ale nie jest standardem OSI domyślnie wstępnie zatwierdzonym przez zespoły prawne. W praktyce obie są użyteczne; w zakupach jedna z nich będzie wymagała dodatkowych dwóch tygodni.

Odcięcie wiedzy Nemotrona przypada na maj 2026 r., a jego pokrycie językowe obejmuje w pierwszej kolejności angielski i kod, z obsługą hiszpańskiego, francuskiego, niemieckiego, włoskiego i japońskiego. Karta Ripple'a mówi, że jego korpus to głównie angielski i kod — kropka. Żaden z nich nie jest modelem wielojęzycznym, a jeśli tego wymagasz, żaden nie powinien trafić na listę skróconą.

Kiedy nie uruchamiać żadnego z nich samodzielnie

Uczciwy argument przeciwko obu rozwiązaniom ma charakter operacyjny. Model na własnym GPU to model, który łatasz, monitorujesz, planujesz pod niego moce i utrzymujesz w gotowości — a karta 24 GB uruchamiająca 2-bitowy MoE przy rozmiarze partii 1 nie jest produkcyjnym poziomem serwowania, tylko bardzo wydajnym stanowiskiem deweloperskim. Gdy tylko Twój ruch jest skokowy lub wielodostępny, hosting rozliczany za token wygrywa pod względem całkowitego kosztu, nawet przy gorszej stawce, ponieważ przestajesz płacić za bezczynną VRAM.

To jest luka, którą OrcaRouter wypełnia w tej części Twojego stosu, która wymaga hostowania: jeden klucz API do ponad 200 modeli w cenie katalogowej dostawcy z 0% marży, dzięki czemu obniżka ceny dostawcy dociera do Ciebie tego samego dnia, a nie dopiero przy kolejnym odnowieniu umowy, oraz automatyczne przełączanie awaryjne, gdy jeden z dostawców zaczyna działać gorzej. Żaden z tych dwóch modeli nie jest dziś w naszym katalogu — Nemotron 3.5 Bolt nie ma w ogóle opublikowanego endpointu rozliczanego za użycie, a Ripple uzyskuje dostęp do API przez własny endpoint Ricursive i platformy zewnętrzne. Router daje Ci drogę wyjścia: prototypuj lokalnie na wagach, a następnie przenieś ścieżkę produkcyjną do hostowanego modelu bez przepisywania klienta.

Reguła praktyczna

Kup model 24 GB, jeśli ograniczeniem jest maszyna. Nemotron 3.5 Bolt 74B-A9B jest jedynym z tych dwóch, który działa na pojedynczej karcie konsumenckiej bez samodzielnego kwantyzowania, odczytuje obrazy i plasuje się w granicach jednego punktu od Ripple w GPQA. Rezygnujesz z około trzydziestu punktów w Terminal-Bench 2.1 i akceptujesz checkpoint 2-bitowy, co stanowi realny koszt w niezawodności agentowej, który luka benchmarkowa prawdopodobnie zaniża.

Kup model 130 GB, jeśli praca polega wyłącznie na tekstowym programowaniu agentowym, a Ty masz odpowiedni sprzęt lub tani hostowany endpoint. Wynik 80.5 modelu Ripple 65B Preview w Terminal-Bench 2.1 to najsilniejsze twierdzenie dotyczące programowania agentowego, jakie w tym miesiącu ogłosiło którekolwiek z laboratoriów, a jego licencja Apache 2.0 wiąże się z najmniejszymi tarciami, jakie znajdziesz gdziekolwiek. Po prostu uruchom wersję NVFP4, uwzględnij pamięć w budżecie i odtwórz tę liczbę na własnym zestawie zadań, zanim w nią uwierzysz — sama karta ostrzega, że replikacja była trudna.