Ripple 65B Preview vs Nemotron 3.5 Bolt 74B: Tagihan VRAM Datang Lebih Dulu

Kedua model ini dijual dengan janji yang sama — Anda dapat menjalankan pengode agentik yang serius di perangkat keras milik Anda sendiri. Ripple 65B Preview menuntut sekitar 130 GB memori dalam BF16 sebelum Anda memuat satu token konteks pun. Nemotron 3.5 Bolt 74B-A9B menuntut 24 GB, karena NVIDIA memadatkannya menjadi 2,0625 bit. Itu perbedaan lima kali lipat dalam perangkat keras yang harus Anda beli, dan itu menentukan perbandingan ini sebelum tabel benchmark sempat ikut berbicara.

Bagian itulah yang menarik, karena pada satu benchmark yang dipublikasikan kedua lab pada versi yang sama, model berukuran kecil bukanlah pemenangnya. Nemotron 3.5 Bolt 74B-A9B dari NVIDIA melaporkan 50.98 pada Terminal-Bench 2.1. Ripple 65B Preview dari Ricursive melaporkan 80.5 pada revisi yang sama. Selisih tiga puluh poin, ujian yang sama — tetapi diambil dalam kondisi yang begitu berbeda sehingga pembacaan yang jujur lebih sempit daripada yang disiratkan oleh judulnya.

Aritmetikanya, sebelum apa pun.

Ripple 65B Preview bersifat dense. Semua 65 miliar parameter aktif pada setiap token, jadi pada BF16 bobotnya saja adalah 65 × 2 byte = 130 GB, dan itu sebelum KV cache. Ricursive memang merilis varian NVFP4, yang membawa bobot menjadi sekitar seperempat dari itu — sebut saja 33 GB plus cache — dan itulah build yang membuat deployment satu GPU atau DGX Spark menjadi realistis. Target yang dinyatakan perusahaan adalah DGX Spark, dengan 250 token per detik pada dua B200 dengan batch size 8 sebelum kernel kustom.

Nemotron 3.5 Bolt 74B-A9B adalah model Mixture-of-Experts dengan 9B parameter aktif, diturunkan dari induk Nemotron 3.5 Super VL 120B-A12B milik NVIDIA dengan memangkas top-K ahli dari 22 menjadi 9 melalui pencarian terarah router yang oleh perusahaan disebut Star Elastic. Pada 2,0625 bit dalam IQ2_XXS, bobotnya sekitar 19 GB dan muat di kartu 24 GB pada ukuran batch 1. Itulah seluruh tujuan desainnya, dan tujuan itu tercapai.

• Memori — ~130 GB BF16 / ~33 GB NVFP4 vs ~19 GB pada 2,06 bit, kartu 24 GB pada batch 1

Bentuk — 65B dense vs total 74B / MoE aktif 9B

• Konteks — 1M yang diiklankan vs 262,144, dengan resep vLLM yang merekomendasikan 64K pada kartu 28 GB

• Modalitas — hanya teks vs input teks, gambar, dan video

• Lisensi — Apache 2.0 vs OpenMDW-1.1

• Harga — $0.20 / $0.60 per juta pada endpoint hosted pertama vs sama sekali tidak ada harga per token untuk hosted

Harness yang sama, kondisi yang berbeda

Terminal-Bench 2.1 adalah kasus langka ketika kedua lab mengutip versi yang sama, yang membuat perbandingan 80.5 terhadap 50.98 sah dalam arti yang tidak berlaku bagi sebagian besar pembicaraan benchmark lintas model. Namun sah tidak sama dengan adil, dan ada dua asimetri yang harus Anda ingat.

Yang pertama adalah kuantisasi. Angka 50.98 dari NVIDIA adalah angka yang dilaporkan vendor untuk model yang didistribusikan terutama sebagai build 2-bit; angka GPQA utama kartu tersebut, 86.43, diukur pada checkpoint terkompresi itu. Ricursive secara eksplisit menyatakan skornya diambil "pada tingkat upaya maksimum dalam BF16" — build presisi penuh. Membandingkan eksekusi 2-bit dengan eksekusi BF16 sama dengan membandingkan dua model berbeda yang kebetulan berbagi repositori.

Yang kedua adalah bahwa angka NVIDIA merupakan klaim yang lebih konservatif. Perusahaan menerbitkan angka yang terukur sebesar 50,98 pada Terminal-Bench sekaligus menerbitkan 86,43 pada GPQA Diamond, dan evaluator independen sejak itu menempatkan model tersebut pada angka 21 di Intelligence Index milik Artificial Analysis — dinilai pada v4.3.2, yang merupakan versi indeks berbeda dari pembangunan ulang v5 yang menjadi acuan untuk model lain di kisaran harga ini. Jangan menempatkan angka 21 itu di samping angka v5 lalu mengurangkannya. Versi indeks tidak dapat dipertukarkan, dan mencampurnya adalah kesalahan paling umum dalam tulisan perbandingan yang dibuat minggu ini.

Di mana model 24 GB menang mutlak

GPQA Diamond adalah kasus yang paling jelas. Ripple 65B Preview melaporkan 85,2. Nemotron 3.5 Bolt 74B-A9B melaporkan 86,43. Model yang muat pada satu kartu grafis konsumen unggul dalam pertanyaan sains tingkat pascasarjana sebesar 1,2 poin — selisih yang cukup kecil untuk dianggap noise, tetapi bukan selisih yang menguntungkan Ripple. Model dense 65B yang dilatih dari nol pada 12 triliun token belum membuka keunggulan pengetahuan atas MoE 74B terkompresi yang didistilasi dari induk yang lebih besar, dan tidak ada alasan model itu seharusnya memiliki keunggulan tersebut.

Nemotron juga menerima gambar dan video. Ripple menerima teks. Jika agen Anda perlu melihat halaman yang dirender, bagan, atau tangkapan layar dari pekerjaan CI yang gagal, itu bukan perbedaan benchmark yang bisa Anda akali hanya dengan prompt.

Keunggulan Ripple terlihat di bagian lain pada kartunya sendiri: 76,5 pada SWE-bench Verified, 71,67 pada MCP Atlas, 79,2 pada IFBench, 83,8 pada FORTRESS Adversarial. Angka-angka itu tergolong kuat untuk model 65B dan menunjuk pada hal yang sama seperti skor Terminal-Bench — ini adalah model yang dilatih pascapelatihan secara khusus untuk penggunaan alat dan pengodean agentik, dengan mengorbankan cakupan yang lebih luas.

Klaim kecepatan yang tidak dapat dibandingkan

250 token per detik milik Ricursive adalah dua B200 pada ukuran batch 8. 83,99 token per detik milik NVIDIA adalah mesin RTX Spark kelas laptop dengan speculative drafter, pada benchmark coding AIPerf. Itu bukan pengukuran yang sama pada perangkat keras yang sama, dan mengutipnya dalam satu kalimat akan tidak jujur. Yang bisa dikatakan bersifat arah: Ripple membutuhkan akselerator kelas pusat data untuk mencapai angkanya, dan Nemotron disetel untuk menghasilkan laju yang layak pakai pada mesin yang muat di bawah meja.

Terjemahan praktisnya adalah throughput per dolar perangkat keras, dan belum ada yang menerbitkannya untuk kedua model tersebut. Jika Anda memilih di antara keduanya, itulah angka yang harus Anda hasilkan sendiri, karena angka itu bergantung pada ukuran batch Anda, panjang konteks Anda, dan apakah Anda menjalankan build NVFP4 atau yang BF16.

Dua lisensi permisif, satu perbedaan bermakna

Ripple menggunakan Apache 2.0, yang tidak perlu penjelasan dan tidak memberlakukan ambang batas apa pun. Nemotron 3.5 Bolt dirilis di bawah OpenMDW-1.1, lisensi model terbuka milik NVIDIA sendiri, yang mengizinkan penggunaan komersial tetapi bukan standar default OSI yang telah disetujui terlebih dahulu oleh tim hukum. Dalam praktiknya, keduanya dapat digunakan; dalam pengadaan, salah satunya akan memakan waktu dua minggu ekstra.

Cutoff pengetahuan Nemotron adalah Mei 2026 dan cakupan bahasanya mengutamakan bahasa Inggris dan kode, dengan dukungan untuk bahasa Spanyol, Prancis, Jerman, Italia, dan Jepang. Keterangan Ripple menyebutkan korpusnya didominasi bahasa Inggris dan kode, titik. Keduanya bukan model multibahasa, dan jika itu persyaratan Anda, keduanya tidak layak masuk daftar kandidat.

Kapan sebaiknya Anda tidak menjalankan salah satunya sendiri

Argumen jujur untuk menolak keduanya bersifat operasional. Model di GPU Anda sendiri adalah model yang Anda patch, pantau, rencanakan kapasitasnya, dan jaga tetap hangat — dan kartu 24 GB yang menjalankan MoE 2-bit pada ukuran batch 1 bukanlah tier serving produksi, melainkan mesin pengembangan yang sangat mumpuni. Begitu lalu lintas Anda bersifat bursty atau multi-tenant, hosting per token menang dalam total biaya bahkan dengan tarif yang lebih buruk, karena Anda berhenti membayar untuk VRAM yang menganggur.

Itulah celah yang diisi OrcaRouter untuk bagian stack Anda yang memang perlu di-hosting: satu kunci API untuk 200-plus model dengan harga daftar penyedia tanpa markup 0%, sehingga pemotongan harga vendor sampai ke Anda pada hari yang sama alih-alih pada perpanjangan kontrak berikutnya, dan failover otomatis ketika satu penyedia mengalami penurunan kinerja. Kedua model ini tidak ada di katalog kami saat ini — Nemotron 3.5 Bolt sama sekali tidak memiliki endpoint berbayar yang dipublikasikan, dan Ripple mengakses API melalui endpoint milik Ricursive sendiri serta platform pihak ketiga. Yang diberikan router kepada Anda adalah jalan keluar: buat prototipe secara lokal dengan bobotnya, lalu pindahkan jalur produksi ke model yang di-hosting tanpa menulis ulang klien.

Aturan praktis

Beli model 24 GB jika mesin menjadi kendala. Nemotron 3.5 Bolt 74B-A9B adalah satu-satunya dari kedua model ini yang berjalan di satu kartu konsumen tanpa Anda mengkuantisasinya sendiri, dapat membaca gambar, dan selisihnya dalam satu poin dari Ripple pada GPQA. Anda kehilangan sekitar tiga puluh poin Terminal-Bench 2.1 dan menerima checkpoint 2-bit, yang merupakan biaya nyata dalam keandalan agentic yang mungkin diremehkan oleh selisih benchmark.

Beli model 130 GB jika pekerjaannya adalah pengkodean agentik yang hanya berbasis teks dan Anda memiliki perangkat kerasnya atau endpoint hosted yang murah. Skor 80,5 dari Ripple 65B Preview pada Terminal-Bench 2.1 adalah klaim pengkodean agentik terkuat yang dibuat salah satu lab bulan ini, dan lisensi Apache 2.0-nya adalah hambatan paling minim yang akan Anda temukan di mana pun. Jalankan saja build NVFP4, perhitungkan memorinya, dan reproduksi angka itu pada set tugas Anda sendiri sebelum mempercayainya — kartu modelnya sendiri memperingatkan bahwa replikasi memang sulit dilakukan.