Ripple 65B Preview vs Nemotron 3.5 Bolt 74B: VRAM-räkningen kommer först

Båda dessa modeller säljs med samma löfte – du kan köra en seriös agentisk kodare på hårdvara du äger. Ripple 65B Preview kräver cirka 130 GB minne i BF16 innan du har laddat en enda kontexttoken. Nemotron 3.5 Bolt 74B-A9B kräver 24 GB, eftersom NVIDIA komprimerade den till 2,0625 bitar. Det är en femfaldig skillnad i hårdvaran du måste köpa, och det avgör den här jämförelsen innan benchmarktabellen ens får komma till tals.

Vilket är det intressanta, för på det enda benchmark där båda labben publicerade samma version är det inte modellen med litet fotavtryck som vinner. NVIDIAs Nemotron 3.5 Bolt 74B-A9B rapporterar 50,98 på Terminal-Bench 2.1. Ricursives Ripple 65B Preview rapporterar 80,5 på samma revision. Trettio poäng, samma prov — men genomfört under så olika förhållanden att den ärliga tolkningen är snävare än rubriken antyder.

Aritmetiken, före allt annat

Ripple 65B Preview är dense. Alla 65 miljarder parametrar är aktiva för varje token, så i BF16 är enbart vikterna 65 × 2 byte = 130 GB, och det är innan KV-cache. Ricursive levererar en NVFP4-variant som minskar vikterna till ungefär en fjärdedel av det – säg 33 GB plus cache – och det är den byggversion som gör driftsättning på en enda GPU eller en DGX Spark realistisk. Företagets uttalade mål är en DGX Spark, med 250 tokens per sekund på två B200:or vid batchstorlek 8 innan anpassade kernels.

Nemotron 3.5 Bolt 74B-A9B är en Mixture-of-Experts-modell med 9B aktiva parametrar, härledd från NVIDIA:s föräldramodell Nemotron 3.5 Super VL 120B-A12B genom att skära expert-top-K från 22 till 9 med en routerstyrd sökning som företaget kallar Star Elastic. Vid 2,0625 bitar i IQ2_XXS landar den på ungefär 19 GB vikter och får plats på ett 24 GB-kort med batchstorlek 1. Det är hela designmålet, och det uppnås.

• Minne — ~130 GB BF16 / ~33 GB NVFP4 jämfört med ~19 GB vid 2,06 bitar, 24 GB-kort vid batch 1

• Form — 65B tät vs 74B totalt / 9B aktiv MoE

• Kontext — 1M annonserat vs 262 144, med vLLM-recept som rekommenderar 64K på ett 28 GB-kort

• Modalitet – endast text kontra text-, bild- och videoinmatning

• Licens — Apache 2.0 mot OpenMDW-1.1

• Pris — 0,20 $ / 0,60 $ per miljon på den första hostade slutpunkten jämfört med inget hostat pris per token alls

Samma rigg, olika förhållanden

Terminal-Bench 2.1 är det sällsynta fallet där båda labben angav samma version, vilket gör jämförelsen 80.5 mot 50.98 legitim på ett sätt som de flesta benchmarkdiskussioner mellan modeller inte är. Men legitimitet är inte samma sak som rättvisa, och det finns två asymmetrier du måste ha i åtanke.

Det första är kvantisering. NVIDIAs 50,98 är en leverantörsrapporterad siffra för en modell som huvudsakligen distribueras som ett 2-bitarsbygge; kortets främsta GPQA-siffra, 86,43, är uppmätt på den komprimerade checkpointen. Ricursive anger uttryckligen att deras poäng togs "vid maximala ansträngningsnivåer i BF16" — fullprecisionsbygget. Att jämföra en 2-bitarskörning med en BF16-körning är att jämföra två olika modeller som råkar dela ett repository.

Det andra är att NVIDIAs siffra är den mer försiktiga uppgiften. Företaget publicerade ett måttfullt 50,98 på Terminal-Bench samtidigt som det också publicerade 86,43 på GPQA Diamond, och oberoende utvärderare har sedan placerat modellen på 21 i Intelligence Index från Artificial Analysis – poängsatt på v4.3.2, vilket är en annan indexversion än den v5-ombyggnad som andra modeller i den här prisklassen redovisas mot. Sätt inte det 21-talet bredvid ett v5-tal och subtrahera. Indexversioner är inte utbytbara, och att blanda dem är det vanligaste felet i jämförelseinlägg som skrivits den här veckan.

Där 24 GB-modellen vinner överlägset

GPQA Diamond är det tydligaste fallet. Ripple 65B Preview rapporterar 85,2. Nemotron 3.5 Bolt 74B-A9B rapporterar 86,43. Modellen som får plats på ett enda konsumentkort ligger före på naturvetenskapliga frågor på forskarutbildningsnivå med 1,2 punkter – en skillnad som är tillräckligt liten för att vara brus, men inte en skillnad till Ripple fördel. En 65B dense-modell tränad på 12 biljoner tokens från scratch har inte skapat ett kunskapsförsprång gentemot en komprimerad 74B MoE destillerad från en större föräldramodell, och det finns ingen anledning att den skulle ha gjort det.

Nemotron tar även emot bilder och video. Ripple tar emot text. Om din agent behöver titta på en renderad sida, ett diagram eller en skärmbild av ett misslyckat CI-jobb, är det inte en benchmark-skillnad som du kan prompta dig runt.

Ripples fördelar syns någon annanstans på dess eget modellkort: 76,5 på SWE-bench Verified, 71,67 på MCP Atlas, 79,2 på IFBench, 83,8 på FORTRESS Adversarial. Det är starka siffror för en 65B-modell, och de pekar på samma sak som Terminal-Bench-poängen gör – det här är en modell som eftertränats specifikt för verktygsanvändning och agentisk kodning, på bekostnad av bredd.

Hastighetspåståenden som inte kan jämföras

Ricursives 250 tokens per sekund är två B200:or vid batchstorlek 8. NVIDIAs 83,99 tokens per sekund är en RTX Spark-maskin i laptopklass med en spekulativ drafter, på AIPerfs kodningsbenchmark. Det är inte samma mätning på samma hårdvara, och att citera dem i en och samma mening skulle vara ohederligt. Det som kan sägas är riktningsvis: Ripple behöver acceleratorer i datacenterklass för att nå sin siffra, och Nemotron har trimmats för att producera en användbar hastighet på en maskin som får plats under ett skrivbord.

Den praktiska översättningen är genomströmning per hårdvarudollar, och ingen har publicerat det för någon av modellerna. Om du väljer mellan dem är det siffran du själv bör ta fram, eftersom den beror på din batchstorlek, din kontextlängd och om du kör NVFP4-versionen eller BF16-versionen.

Två permissiva licenser, en betydelsefull skillnad

Ripple är Apache 2.0, vilket inte kräver någon förklaring och inte medför några tröskelkrav. Nemotron 3.5 Bolt levereras under OpenMDW-1.1, NVIDIAs egen öppna modelllicens, som tillåter kommersiell användning men inte är det OSI-standardval som juridiska team har förhandsgodkänt. I praktiken är båda användbara; vid upphandling kommer en av dem att ta två extra veckor.

Nemotrons kunskapsgräns är maj 2026 och dess språktäckning är engelska och kod först, med stöd för spanska, franska, tyska, italienska och japanska. Ripples kort säger att dess korpus huvudsakligen består av engelska och kod, punkt slut. Ingen av dem är en flerspråkig modell, och om det är ditt krav hör ingen av dem hemma på kortlistan.

När du inte ska köra någon av dem själv

Det ärliga argumentet mot båda är operativt. En modell på din egen GPU är en modell som du patcharr, övervakar, kapacitetsplanerar och håller varm – och ett 24 GB-kort som kör en 2-bitars MoE med batchstorlek 1 är inte en produktionsnivå för servering, det är en mycket kapabel utvecklingsmaskin. Så snart din trafik är burstig eller multi-tenant vinner per-token-hostning på totalkostnad, även till ett sämre pris, eftersom du slutar betala för ledigt VRAM.

Det är luckan som OrcaRouter fyller för den del av din stack som faktiskt behöver hostas: en API-nyckel över 200+ modeller till leverantörens listpris med 0 % påslag, så att en leverantörs prissänkning når dig samma dag i stället för vid nästa avtalsförnyelse, och automatisk failover när en leverantör försämras. Ingen av dessa två modeller finns i vår katalog i dag – Nemotron 3.5 Bolt har ingen publicerad mätbaserad endpoint alls, och Ripple når ett API via Ricursives egen endpoint och tredjepartsplattformar. Det routern ger dig är utvägen: prototypa lokalt på vikterna och flytta sedan produktionsvägen till en hostad modell utan att skriva om klienten.

Tumregeln

Köp 24 GB-modellen om maskinen är begränsningen. Nemotron 3.5 Bolt 74B-A9B är den enda av dessa två som körs på ett enda konsumentkort utan att du kvantiserar den själv, den läser bilder och ligger inom en poäng från Ripple på GPQA. Du ger upp ungefär trettio poäng av Terminal-Bench 2.1 och accepterar en 2-bitars checkpoint, vilket är en verklig kostnad i agentisk tillförlitlighet som benchmarkgapet troligen underskattar.

Köp 130 GB-modellen om arbetet är enbart textbaserad agentisk kodning och du har hårdvaran eller en billig hostad endpoint. Ripple 65B Preview's 80,5 på Terminal-Bench 2.1 är det starkaste agentiska kodningspåståendet som något av labben har gjort den här månaden, och dess Apache 2.0-licens är den minsta friktion du hittar någonstans. Kör bara NVFP4-bygget, budgetera för minnet och reproducera siffran på din egen uppsättning uppgifter innan du tror på den – kortet självt varnar för att replikering har varit svår.