Ripple 65B Preview vs. Nemotron 3.5 Bolt 74B: Die VRAM-Rechnung kommt zuerst

{{1}}Diese beiden Modelle werden mit demselben Versprechen verkauft{{/1}} — {{2}}Sie können einen ernstzunehmenden agentischen Coder auf eigener Hardware ausführen{{/2}}. Ripple 65B Preview benötigt etwa 130 GB Speicher in BF16, bevor Sie auch nur ein einziges Kontext-Token geladen haben. Nemotron 3.5 Bolt 74B-A9B benötigt 24 GB, weil NVIDIA es auf 2,0625 Bit komprimiert hat. Das ist ein Unterschied um den Faktor fünf bei der Hardware, die Sie kaufen müssen, und er entscheidet diesen Vergleich, bevor die Benchmark-Tabelle überhaupt zu Wort kommt.

Was der interessante Teil ist, denn bei dem einen Benchmark, den beide Labore zur selben Version veröffentlichten, ist das Modell mit geringem Footprint nicht der Sieger. NVIDIAs Nemotron 3.5 Bolt 74B-A9B meldet 50,98 auf Terminal-Bench 2.1. Ricursives Ripple 65B Preview meldet 80,5 auf derselben Revision. Dreißig Punkte, dieselbe Prüfung – doch unter so unterschiedlichen Bedingungen absolviert, dass die ehrliche Lesart enger ist, als die Schlagzeile nahelegt.

Die Rechnung, vor allem anderen.

Ripple 65B Preview ist ein dichtes Modell. Alle 65 Milliarden Parameter sind bei jedem Token aktiv, sodass die Gewichte allein in BF16 65 × 2 Bytes = 130 GB umfassen – und das vor dem KV-Cache. Ricursive liefert tatsächlich eine NVFP4-Variante aus, die die Gewichte auf etwa ein Viertel davon reduziert – sagen wir 33 GB plus Cache –, und das ist die Variante, die einen Einsatz auf einer einzelnen GPU oder einem DGX Spark realistisch macht. Das erklärte Ziel des Unternehmens ist ein DGX Spark, mit 250 Tokens pro Sekunde auf zwei B200s bei Batchgröße 8, noch ohne eigene Kernel.

Nemotron 3.5 Bolt 74B-A9B ist ein Mixture-of-Experts-Modell mit 9B aktiven Parametern, abgeleitet vom Elternmodell Nemotron 3.5 Super VL 120B-A12B von NVIDIA, indem der Expert-Top-K von 22 auf 9 reduziert wurde – mittels einer router-gesteuerten Suche, die das Unternehmen Star Elastic nennt. Bei 2,0625 Bit in IQ2_XXS kommt es auf etwa 19 GB an Gewichten und passt bei Batchgröße 1 auf eine 24-GB-Karte. Das ist das gesamte Designziel, und es wird erreicht.

• Speicher — ~130 GB BF16 / ~33 GB NVFP4 gegenüber ~19 GB bei 2,06 Bit, 24-GB-Karte bei Batch 1

• Form — 65B dicht vs. 74B insgesamt / 9B aktive MoE

• Kontext — 1M beworben vs. 262,144, wobei vLLM-Rezepte 64K auf einer 28-GB-Karte empfehlen

• Modalität — nur Text vs. Text-, Bild- und Videoeingabe

• Lizenz — Apache 2.0 vs. OpenMDW-1.1

• Preis — 0,20 $ / 0,60 $ pro Million beim ersten gehosteten Endpoint gegenüber gar keinem gehosteten Preis pro Token

Gleicher Test-Harness, andere Bedingungen

Terminal-Bench 2.1 ist der seltene Fall, in dem beide Labs dieselbe Version angegeben haben – was den Vergleich von 80,5 gegen 50,98 auf eine Weise legitim macht, wie es bei den meisten modellübergreifenden Benchmark-Vergleichen nicht der Fall ist. Doch Legitimität ist nicht dasselbe wie Fairness, und es gibt zwei Asymmetrien, die man im Hinterkopf behalten muss.

Das erste ist die Quantisierung. NVIDIAs 50,98 ist ein vom Hersteller angegebener Wert für ein Modell, das hauptsächlich als 2-Bit-Build vertrieben wird; die prominente GPQA-Zahl der Karte, 86,43, wird an diesem komprimierten Checkpoint gemessen. Ricursive gibt ausdrücklich an, dass seine Werte „auf maximalen Aufwandsstufen in BF16“ ermittelt wurden – dem vollpräzisen Build. Einen 2-Bit-Lauf mit einem BF16-Lauf zu vergleichen heißt, zwei verschiedene Modelle zu vergleichen, die zufällig dasselbe Repository teilen.

Zweitens ist NVIDIAs Zahl die konservativere Angabe. Das Unternehmen veröffentlichte einen nüchternen Wert von 50,98 auf Terminal-Bench und zugleich 86,43 auf GPQA Diamond, und unabhängige Evaluatoren haben das Modell inzwischen auf 21 im Intelligence Index von Artificial Analysis eingestuft – bewertet auf v4.3.2, einer anderen Indexversion als der v5-Neubau, auf den sich die Angaben für andere Modelle in dieser Preisklasse beziehen. Setzen Sie diese 21 nicht neben eine v5-Zahl und subtrahieren Sie nicht. Indexversionen sind nicht austauschbar, und ihre Vermischung ist der häufigste Fehler in Vergleichsbeiträgen, die diese Woche geschrieben wurden.

Wo das 24-GB-Modell eindeutig gewinnt

GPQA Diamond ist der klarste Fall. Ripple 65B Preview meldet 85,2. Nemotron 3.5 Bolt 74B-A9B meldet 86,43. Das Modell, das auf eine einzelne Consumer-Karte passt, liegt bei wissenschaftlichen Fragen auf Hochschulniveau um 1,2 Punkte vorn – eine Lücke, die klein genug ist, um Rauschen zu sein, aber keine Lücke zu Ripples Gunsten. Ein dichtes 65B-Modell, das von Grund auf mit 12 Billionen Tokens trainiert wurde, hat keinen Wissensvorsprung gegenüber einem komprimierten 74B-MoE aufgebaut, das aus einem größeren Elternmodell destilliert wurde – und es gibt keinen Grund, warum es einen haben sollte.

Nemotron akzeptiert auch Bilder und Videos. Ripple verarbeitet Text. Wenn Ihr Agent eine gerenderte Seite, ein Diagramm oder einen Screenshot eines fehlschlagenden CI-Jobs ansehen muss, ist das kein Benchmark-Unterschied, den man mit Prompting umgehen kann.

Ripples Vorteile zeigen sich an anderer Stelle auf seiner eigenen Model Card: 76,5 bei SWE-bench Verified, 71,67 bei MCP Atlas, 79,2 bei IFBench, 83,8 bei FORTRESS Adversarial. Das sind starke Zahlen für ein 65B-Modell, und sie deuten auf dasselbe hin wie der Terminal-Bench-Score – dies ist ein Modell, das speziell für Tool-Nutzung und agentisches Coding nachtrainiert wurde, auf Kosten der Breite.

Geschwindigkeitsangaben, die nicht vergleichbar sind

Die 250 Token pro Sekunde von Ricursive sind zwei B200s bei Batch-Größe 8. Die 83,99 Token pro Sekunde von NVIDIA sind eine RTX-Spark-Maschine der Laptop-Klasse mit einem spekulativen Drafter, auf AIPerfs Coding-Benchmark. Das sind nicht dieselben Messungen auf derselben Hardware, und sie in einem Satz zu zitieren wäre unehrlich. Was sich sagen lässt, ist richtungsweisend: Ripple braucht Beschleuniger der Rechenzentrums-Klasse, um seine Zahl zu erreichen, und Nemotron wurde darauf abgestimmt, eine nutzbare Rate auf einer Maschine zu liefern, die unter einen Schreibtisch passt.

Die praktische Übersetzung ist Durchsatz pro Dollar an Hardware, und niemand hat das für keines der beiden Modelle veröffentlicht. Wenn Sie zwischen ihnen wählen, ist es die Zahl, die Sie selbst ermitteln sollten, denn sie hängt von Ihrer Batch-Größe, Ihrer Kontextlänge und davon ab, ob Sie den NVFP4-Build oder den BF16-Build ausführen.

Zwei permissive Lizenzen, ein bedeutsamer Unterschied

Ripple ist Apache 2.0, was keiner Erklärung bedarf und keine Hürde darstellt. Nemotron 3.5 Bolt wird unter OpenMDW-1.1 ausgeliefert, NVIDIAs eigener Open-Model-Lizenz, die kommerzielle Nutzung erlaubt, aber nicht der OSI-Standard ist, den Rechtsteams bereits vorab freigegeben haben. In der Praxis sind beide nutzbar; im Beschaffungswesen wird eines von beiden zwei Wochen länger dauern.

Der Wissens-Cutoff von Nemotron ist Mai 2026, und seine Sprachabdeckung ist Englisch und Code zuerst, mit unterstütztem Spanisch, Französisch, Deutsch, Italienisch und Japanisch. Die Karte von Ripple besagt, dass sein Korpus überwiegend aus Englisch und Code besteht, Punkt. Keines von beiden ist ein mehrsprachiges Modell, und wenn das Ihre Anforderung ist, gehört keines von beiden auf die Shortlist.

Wann Sie weder das eine noch das andere selbst ausführen sollten

Das ehrliche Argument gegen beide ist operativer Natur. Ein Modell auf der eigenen GPU ist ein Modell, das man patcht, überwacht, für das man Kapazität plant und das man warmhält — und eine 24-GB-Karte, die ein 2-Bit-MoE bei Batch Size 1 ausführt, ist kein Production-Serving-Tier, sondern eine sehr leistungsfähige Entwicklungsmaschine. Sobald der Traffic stoßweise oder mandantenfähig ist, gewinnt Per-Token-Hosting bei den Gesamtkosten selbst zu einem schlechteren Tarif, weil man dann nicht mehr für ungenutzten VRAM zahlt.

Das ist die Lücke, die OrcaRouter für den Teil Ihres Stacks schließt, der tatsächlich gehostet werden muss: ein API-Schlüssel für über 200 Modelle zu den Listenpreisen der Anbieter mit 0 % Aufschlag, sodass eine Preissenkung eines Anbieters Sie noch am selben Tag erreicht statt erst zur nächsten Vertragsverlängerung, und automatisches Failover, wenn die Leistung eines Anbieters nachlässt. Keines dieser beiden Modelle ist heute in unserem Katalog — Nemotron 3.5 Bolt hat überhaupt keinen veröffentlichten nutzungsabhängig abgerechneten Endpunkt, und Ripple erreicht eine API über Ricursives eigenen Endpunkt und Drittanbieterplattformen. Was der Router Ihnen bietet, ist die Ausstiegsrampe: Entwickeln Sie lokal einen Prototyp auf Basis der Gewichte und verlagern Sie dann den Produktionspfad auf ein gehostetes Modell, ohne den Client neu zu schreiben.

Die Faustregel

Kaufen Sie das 24-GB-Modell, wenn der Rechner der Engpass ist. Nemotron 3.5 Bolt 74B-A9B ist von diesen beiden das einzige, das auf einer einzelnen Consumer-Grafikkarte läuft, ohne dass Sie es selbst quantisieren müssen, es liest Bilder und liegt bei GPQA nur einen Punkt hinter Ripple. Sie verzichten auf rund dreißig Punkte bei Terminal-Bench 2.1 und nehmen ein 2-Bit-Checkpoint in Kauf, was einen echten Verlust an agentischer Zuverlässigkeit bedeutet, den die Benchmark-Lücke wahrscheinlich noch untertreibt.

Kaufen Sie das 130-GB-Modell, wenn es sich bei der Arbeit um rein textbasierte agentische Programmierung handelt und Sie über die Hardware oder einen günstigen gehosteten Endpunkt verfügen. Der Wert 80,5 von Ripple 65B Preview auf Terminal-Bench 2.1 ist die stärkste Behauptung zum agentischen Programmieren, die eines der beiden Labore in diesem Monat aufgestellt hat, und seine Apache-2.0-Lizenz bietet die geringste Reibung, die Sie irgendwo finden werden. Führen Sie einfach den NVFP4-Build aus, planen Sie den Speicherbedarf ein und reproduzieren Sie die Zahl mit Ihrem eigenen Aufgabensatz, bevor Sie sie glauben – die Karte selbst warnt davor, dass die Reproduktion schwierig war.