Ripple 65B Preview vs Nemotron 3.5 Bolt 74B: il conto della VRAM viene prima di tutto

Entrambi questi modelli vengono venduti sulla stessa promessa: puoi eseguire un coder agentico serio su hardware di tua proprietà. Ripple 65B Preview richiede circa 130 GB di memoria in BF16 prima ancora di aver caricato un singolo token di contesto. Nemotron 3.5 Bolt 74B-A9B richiede 24 GB, perché NVIDIA lo ha compresso a 2,0625 bit. È una differenza di cinque volte nell'hardware che devi acquistare, e decide questo confronto prima che la tabella dei benchmark possa dire la sua.

Il che è la parte interessante, perché sull'unico benchmark in cui entrambi i laboratori hanno pubblicato alla stessa versione, il modello a ingombro ridotto non è il vincitore. Il Nemotron 3.5 Bolt 74B-A9B di NVIDIA riporta 50,98 su Terminal-Bench 2.1. Il Ripple 65B Preview di Ricursive riporta 80,5 sulla stessa revisione. Trenta punti, stesso esame — ma ottenuti in condizioni così diverse che la lettura onesta è più limitata di quanto il titolo suggerisca.

L'aritmetica, prima di ogni altra cosa

Ripple 65B Preview è un modello dense. Tutti i 65 miliardi di parametri sono attivi su ogni token, quindi in BF16 i soli pesi ammontano a 65 × 2 byte = 130 GB, e questo prima della KV cache. Ricursive distribuisce effettivamente una variante NVFP4, che porta i pesi a circa un quarto di quella cifra — diciamo 33 GB più cache — ed è quella build che rende realistico un deployment su singola GPU o DGX Spark. L'obiettivo dichiarato dall'azienda è una DGX Spark, con 250 token al secondo su due B200 a batch size 8 prima dei kernel personalizzati.

Nemotron 3.5 Bolt 74B-A9B è un modello Mixture-of-Experts con 9B parametri attivi, derivato dal modello padre Nemotron 3.5 Super VL 120B-A12B di NVIDIA riducendo il top-K degli esperti da 22 a 9 tramite una ricerca guidata dal router che l'azienda chiama Star Elastic. A 2,0625 bit in IQ2_XXS arriva a circa 19 GB di pesi e entra in una scheda da 24 GB con batch size 1. Questo è l'intero obiettivo di progettazione, ed è raggiunto.

• Memoria — ~130 GB BF16 / ~33 GB NVFP4 vs ~19 GB a 2,06 bit, scheda da 24 GB con batch 1

• Struttura — 65B dense vs 74B totali / 9B attivi MoE

• Contesto — 1M dichiarati vs 262.144, con ricette vLLM che consigliano 64K su una scheda da 28 GB

• Modalità — solo testo vs testo, immagine e video in input

• Licenza — Apache 2.0 vs OpenMDW-1.1

• Prezzo — $0,20 / $0,60 per milione sul primo endpoint ospitato rispetto all'assenza totale di un prezzo per token ospitato

Stesso apparato, condizioni diverse

Terminal-Bench 2.1 è il caso raro in cui entrambi i laboratori hanno citato la stessa versione, il che rende il confronto 80,5 contro 50,98 legittimo in un modo in cui non lo è la maggior parte dei discorsi sui benchmark tra modelli. Ma legittimità non è sinonimo di equità, e ci sono due asimmetrie che devi tenere a mente.

La prima è la quantizzazione. Il 50,98 di NVIDIA è una cifra dichiarata dal fornitore per un modello distribuito principalmente come build a 2 bit; il valore GPQA di punta della scheda, 86,43, è misurato su quel checkpoint compresso. Ricursive dichiara esplicitamente che i suoi punteggi sono stati ottenuti "ai livelli di sforzo massimi in BF16" — la build a piena precisione. Confrontare un'esecuzione a 2 bit con una in BF16 significa confrontare due modelli diversi che per caso condividono un repository.

Il secondo punto è che il dato di NVIDIA è l'affermazione più prudente. L'azienda ha pubblicato un sobrio 50,98 su Terminal-Bench e anche 86,43 su GPQA Diamond, e da allora valutatori indipendenti hanno collocato il modello a 21 nell'Intelligence Index di Artificial Analysis — valutato su v4.3.2, che è una versione dell'indice diversa dalla ricostruzione v5 su cui vengono quotati altri modelli in questa fascia di prezzo. Non accostare quel 21 a un numero v5 per poi sottrarre. Le versioni dell'indice non sono intercambiabili, e mescolarle è l'errore più comune nei post di confronto scritti questa settimana.

Dove il modello da 24 GB vince nettamente

GPQA Diamond è il caso più chiaro. Ripple 65B Preview riporta 85,2. Nemotron 3.5 Bolt 74B-A9B riporta 86,43. Il modello che sta su una singola scheda consumer è avanti di 1,2 punti sulle domande scientifiche di livello universitario avanzato — un divario abbastanza piccolo da essere rumore, ma non un divario a favore di Ripple. Un modello denso da 65B addestrato da zero su 12 trilioni di token non ha aperto un vantaggio di conoscenza rispetto a un MoE compresso da 74B distillato da un genitore più grande, e non c'è motivo per cui avrebbe dovuto farlo.

Nemotron gestisce anche immagini e video. Ripple gestisce testo. Se il tuo agente deve esaminare una pagina renderizzata, un grafico o uno screenshot di un job CI fallito, non è una differenza di benchmark che puoi aggirare con un prompt.

I vantaggi di Ripple emergono altrove nella sua stessa scheda: 76,5 su SWE-bench Verified, 71,67 su MCP Atlas, 79,2 su IFBench, 83,8 su FORTRESS Adversarial. Sono numeri solidi per un modello da 65B e indicano la stessa cosa del punteggio su Terminal-Bench: si tratta di un modello sottoposto a post-training specificamente per l'uso di strumenti e la programmazione agentica, a scapito dell'ampiezza.

Dichiarazioni di velocità non comparabili

I 250 token al secondo di Ricursive sono due B200 con dimensione batch 8. Gli 83,99 token al secondo di NVIDIA sono una macchina RTX Spark di classe laptop con un drafter speculativo, sul benchmark di coding di AIPerf. Non sono la stessa misurazione sullo stesso hardware, e citarli nella stessa frase sarebbe disonesto. Ciò che si può dire è di tipo direzionale: Ripple ha bisogno di acceleratori di classe datacenter per raggiungere il suo numero, e Nemotron è stato ottimizzato per produrre una velocità utilizzabile su una macchina che sta sotto una scrivania.

La traduzione pratica è throughput per dollaro di hardware, e nessuno l'ha pubblicato per nessuno dei due modelli. Se stai scegliendo tra i due, è il numero che dovresti calcolare da te, perché dipende dalla tua dimensione del batch, dalla tua lunghezza del contesto e dal fatto che tu stia eseguendo la build NVFP4 o quella BF16.

Due licenze permissive, una differenza significativa

Ripple è Apache 2.0, che non richiede spiegazioni e non impone alcuna soglia. Nemotron 3.5 Bolt è distribuito con licenza OpenMDW-1.1, la licenza per modelli aperti di NVIDIA, che consente l'uso commerciale ma non è la licenza predefinita conforme a OSI che i team legali hanno già pre-approvato. In pratica entrambi sono utilizzabili; negli acquisti, uno dei due richiederà due settimane in più.

Il data limite delle conoscenze di Nemotron è maggio 2026 e la sua copertura linguistica privilegia l'inglese e il codice, con supporto per spagnolo, francese, tedesco, italiano e giapponese. La scheda di Ripple indica che il suo corpus è prevalentemente in inglese e codice, punto. Nessuno dei due è un modello multilingue e, se questo è il vostro requisito, nessuno dei due merita di entrare nella lista ristretta.

Quando non eseguire nessuno dei due personalmente

La tesi onesta contro entrambi è di natura operativa. Un modello sulla tua GPU è un modello a cui applichi patch, che monitori, di cui pianifichi la capacità e che mantieni caldo — e una scheda da 24 GB che esegue un MoE a 2 bit con batch size 1 non è un tier di serving di produzione, è una macchina di sviluppo molto capace. Nel momento in cui il tuo traffico è a raffiche o multi-tenant, l'hosting per token vince sul costo totale anche a una tariffa peggiore, perché smetti di pagare per la VRAM inattiva.

È questa la lacuna che OrcaRouter colma per la parte del tuo stack che deve necessariamente essere ospitata: una sola chiave API per oltre 200 modelli al prezzo di listino del provider con 0% di ricarico, così una riduzione di prezzo del fornitore ti raggiunge lo stesso giorno anziché al rinnovo contrattuale successivo, e il failover automatico quando un provider si degrada. Nessuno di questi due modelli è oggi nel nostro catalogo — Nemotron 3.5 Bolt non ha alcun endpoint a consumo pubblicato, e Ripple accede a un'API tramite l'endpoint proprietario di Ricursive e piattaforme di terze parti. Ciò che il router ti offre è la rampa d'uscita: fai il prototipo in locale sui pesi, poi sposta il percorso di produzione su un modello ospitato senza riscrivere il client.

La regola empirica

Compra il modello da 24 GB se la macchina è il vincolo. Nemotron 3.5 Bolt 74B-A9B è l'unico di questi due che gira su una singola scheda consumer senza quantizzarlo tu stesso, legge le immagini ed è a un punto da Ripple su GPQA. Rinunci a circa trenta punti su Terminal-Bench 2.1 e accetti un checkpoint a 2 bit, che è un costo reale in termini di affidabilità agentica che il divario nel benchmark probabilmente sottostima.

Acquista il modello da 130 GB se il lavoro è coding agentico solo testuale e disponi dell'hardware o di un endpoint hosted economico. Il punteggio di 80,5 di Ripple 65B Preview su Terminal-Bench 2.1 è la dichiarazione più forte in ambito coding agentico fatta da entrambi i laboratori questo mese, e la sua licenza Apache 2.0 è quella con il minor attrito che tu possa trovare. Esegui semplicemente la build NVFP4, metti in budget la memoria e riproduci il numero sul tuo set di attività prima di crederci — la scheda stessa avverte che la replicazione è stata difficile.