Nemotron 3.5 Super VL vs Nemotron 3 Ultra: Lebih Murah daripada Flagship, atau Hanya Lebih Kecil?

NVIDIA memiliki tiga tingkatan Nemotron 3.5 dan salah satunya adalah jebakan bagi para perencana. NVIDIA Nemotron 3 Ultra 550B-A55B, yang dirilis pada 4 Juni 2026, adalah unggulan keluarga ini: total 550 miliar parameter dengan 55 miliar aktif per token, lapisan LatentMoE dengan Multi-Token Prediction, konteks 1 juta token, dan minimum yang dinyatakan yaitu enam belas H100 atau delapan GB200. NVIDIA Nemotron 3.5 Super VL, yang bobotnya tiba di Hugging Face pada 12 Oktober 2026 dengan pengumuman NVIDIA menyusul pada 15 Oktober, adalah tingkatan di bawahnya: total 120B, aktif 12B, konteks 1 juta token yang sama, encoder visi C-RADIO, dan minimum empat H100 atau dua GB200. Kartu milik NVIDIA sendiri untuk Super VL membandingkannya secara langsung dengan Ultra dan mengklaim akurasi di sekitar Ultra dengan parameter kira-kira seperlimanya. Klaim itu dilaporkan oleh vendor, belum direproduksi, dan itulah satu-satunya kalimat yang menjadi tumpuan seluruh perbandingan ini.

Perhitungan yang sebenarnya menentukan penyebaran

Mulailah dengan apa yang secara fisik dibutuhkan oleh kedua titik pemeriksaan, karena itulah angka yang disetujui oleh pemilik anggaran.

• Total parameter — 120B untuk Super VL dibandingkan 550B untuk Ultra. Sekitar 4,6 kali lipat jejak bobotnya, dan bobot itulah yang memenuhi GPU.

• Parameter aktif per token — 12B versus 55B. Komputasi per token berskala dengan ini, bukan dengan totalnya, itulah sebabnya kedua model jauh lebih murah untuk dijalankan daripada yang disarankan ukurannya — dan mengapa selisih antara keduanya adalah 4,6× pada memori tetapi juga 4,6× pada aritmetika per token.

• Perangkat keras minimum — 4×H100 atau 2×GB200 untuk Super VL; 16×H100 atau 8×GB200 untuk Ultra. Satu node dibandingkan satu rak, dalam praktiknya.

• Modalitas — teks, gambar, dan video masuk untuk Super VL; teks masuk, teks keluar untuk Ultra. Ultra sama sekali tidak memiliki jalur visi.

• Desain atensi — Super VL adalah hibrida Mamba-2, campuran pakar, dan atensi berselang-seling dengan 512 pakar terarah per lapisan MoE; Ultra menggunakan pengaturan LatentMoE dari NVIDIA. Keduanya membawa head MTP untuk decoding spekulatif.

• Lisensi — OpenMDW-1.1 dengan penggunaan komersial pada keduanya, bobot dan resep terbuka pada keduanya.

Pola pada enam baris tersebut adalah bahwa Super VL bukanlah Ultra yang dipangkas. Ia adalah bentuk model yang berbeda: mampu memproses visi, jauh lebih kecil dalam hal memori, dan — yang krusial — dapat dideploy pada perangkat keras yang mungkin sudah dimiliki tim berukuran menengah. Ambang minimum Ultra adalah pembicaraan tentang pusat data. Ambang minimum Super VL adalah node inferensi yang serius.

Apa manfaat dari tambahan 43 miliar parameter aktif

Kasus penalaran umum

Ultra dirancang untuk berada di puncak jajaran NVIDIA untuk penalaran teks murni, dan tolok ukur rilis Juni NVIDIA membandingkannya dengan enam model terdepan kontemporer di berbagai rangkaian pengujian pengetahuan, matematika, pengodean, dan konteks panjang. Angka-angka tersebut, seperti setiap angka dalam perbandingan ini, berasal dari perangkat pengujian NVIDIA sendiri, bukan dari evaluator independen, sehingga angka itu hanya menunjukkan apa yang diukur oleh NVIDIA, bukan apa yang akan diukur oleh pihak ketiga.

Kasus multimodal

Di sinilah perbandingannya berbalik. Ultra tidak dapat membaca halaman. Jika pekerjaannya melibatkan dokumen, tabel, bagan, tangkapan layar, atau bingkai video, model andalan itu sama sekali bukan kandidat, dan model terbesar dalam keluarga tersebut tidak relevan dengan masalah Anda, tak peduli seberapa bagus indeks penalarannya. Encoder visi dan konektor Super VL ada tepat untuk beban kerja itu, dan kekuatan yang dipublikasikan — OCR, ekstraksi terstruktur dari dokumen visual, alur kerja bisnis multi-langkah — menggambarkan pekerjaan yang berbeda dari pekerjaan yang disetel untuk Ultra.

Kasus konteks panjang

Keduanya mencapai 1M token. NVIDIA memperluas konteks Super VL dengan tahap khusus 35 miliar token yang diikuti oleh proses pemulihan konteks panjang, yang merupakan sinyal lebih kuat daripada panjang maksimum saja: ini berarti input panjang diperlakukan sebagai kemampuan yang harus dipertahankan, bukan sekadar buffer untuk dipromosikan. Ultra mencapai jendela yang sama melalui alur pelatihannya sendiri. Tanpa evaluasi konteks panjang yang independen untuk keduanya, anggap ini seri dengan keunggulan yang masuk akal bagi model mana pun yang menurut jejak retrieval Anda sendiri tetap bertahan melewati 200k.

Menyajikan salah satu atau keduanya, dan jebakan tier

Jebakannya adalah berasumsi bahwa keluarga itu adalah tangga yang Anda daki. Ia lebih mirip sebuah partisi, dan partisi itu ditentukan oleh biaya per tugas, bukan oleh kemampuan. Model dengan 12B aktif yang membutuhkan dua GB200 dan menyelesaikan tugas dokumen lima kali lebih cepat daripada kelasnya, jika klaim throughput NVIDIA itu benar, mengalahkan model dengan 55B aktif pada tugas itu terlepas dari mana yang lebih pintar — karena yang lebih pintar menganggur menunggu antrean milik yang lebih cepat habis. Balikkan tugasnya menjadi masalah coding atau matematika berjangka panjang tanpa piksel di dalamnya, dan parameter ekstra Ultra benar-benar melakukan kerja nyata.

Tidak satu pun dari ini ada di katalog kami, dan ada baiknya kita menyatakannya secara eksplisit daripada membiarkan kalimat yang samar menyiratkan sebaliknya: OrcaRouter tidak menyediakan NVIDIA Nemotron 3.5 Super VL, Nemotron 3 Ultra 550B-A55B, atau checkpoint NVIDIA lainnya. Itu adalah bobot yang Anda-deploy sendiri. Yang disumbangkan lapisan routing untuk keputusan seperti ini adalah pengukuran, bukan akses. DSL routing memungkinkan Anda menempatkan prompt yang sama di depan dua model hulu dan membaca jawabannya secara berdampingan, sehingga evaluasi terhadap kandidat dengan 12B aktif versus incumbent dengan 55B aktif menjadi sekadar perubahan konfigurasi, bukan dua proyek integrasi. Failover otomatis penting karena alasan yang justru sebaliknya: jika model terkelola yang Anda arahkan mengalami degradasi di tengah pipeline, permintaan akan dipindahkan alih-alih gagal, yang menjaga jalur fallback tetap hidup bagi tim yang mempertahankan Super VL secara self-hosted sebagai opsi utama mereka. Dan untuk bagian beban kerja yang tidak seharusnya diserap oleh tier self-hosted mana pun — lonjakan, modalitas langka, pekerjaan konteks besar sekali pakai — katalog di balik satu kunci, lebih dari dua ratus model dengan markup 0% di atas harga daftar penyedia, adalah tempat permintaan-permintaan itu bermuara.

Pembingkaian yang jujur atas paragraf itu adalah bahwa kami bukan vendor untuk model mana pun di sini. Kami adalah lapisan yang membuat perbandingan tersebut murah untuk dijalankan dan jalur eskalasi murah untuk dipertahankan.

Klaim yang perlu diuji sebelum Anda berkomitmen

Semua di atas bermuara pada satu kalimat yang belum terverifikasi: bahwa model 120B parameter dengan 12B aktif menyamai model penalaran terbesar NVIDIA pada sekitar seperlima jumlah parameternya. Jika itu benar, Super VL adalah default yang lebih baik untuk beban kerja campuran dan Ultra disediakan untuk ekor sempit masalah yang benar-benar membutuhkannya. Jika tidak benar — dan sehari setelah rilis belum ada orang di luar NVIDIA yang mengukurnya — maka kedua tier itu hanyalah ukuran berbeda dari hal yang sama, dan pilihannya kembali pada apa yang dibutuhkan tugas Anda: piksel atau tanpa piksel, satu node atau satu rak.

Tes ini murah dan spesifik. Ambil lima puluh tugas nyata dari antrean Anda sendiri yang memiliki jawaban yang dapat diperiksa, jalankan pada keduanya, dan nilai penyelesaiannya, bukan skor benchmark. Angka itu, bukan angka NVIDIA, yang menentukan tingkat perangkat keras yang Anda beli — dan angka itulah yang akan tetap benar saat rilis Nemotron berikutnya mengatur ulang halaman ini.