Nemotron 3.5 Super VL vs Nemotron 3.5 Lightning: Dua Tingkatan dari Satu Keluarga, dan Token yang Menentukan Yang Mana

Kedua model ini bukan rival, dan memperlakukannya sebagai satu adalah kesalahan yang didorong oleh lembar spesifikasi. NVIDIA Nemotron 3.5 Super VL adalah model visi-bahasa dengan 120B parameter, 12B aktif, yang memerlukan empat H100 atau dua GB200 untuk berjalan pada presisi penuh. NVIDIA Nemotron 3.5 Lightning 30B-A3B adalah model teks dengan 30B parameter, 3B aktif, yang muat pada satu DGX Spark atau satu H100. Keduanya berbagi lisensi — OpenMDW-1.1, penggunaan komersial, bobot terbuka dan resep terbuka — dan berbagi filosofi desain untuk meredam komputasi per token dengan Mamba-2 dan sparse expert. Keduanya tidak berbagi modalitas input, batas minimum perangkat keras, atau tugas. Lightning adalah yang lebih tua di antara keduanya, terpaut sekitar dua bulan, karena telah dirilis pada 11 Agustus 2026; bobot Super VL hadir pada 12 Oktober 2026, dengan pengumuman NVIDIA menyusul pada 15 Oktober, jadi salah satunya adalah rilis yang sudah mapan dan yang lainnya baru berusia sehari.

Gerbang, secara sederhana

Kedua model tersedia sebagai checkpoint yang dapat diunduh dengan resep evaluasi yang dipublikasikan. Keduanya dievaluasi oleh vendor: setiap angka dalam tabel di bawah ini berasal dari harness NeMo Gym atau NeMo Evaluator milik NVIDIA sendiri, bukan dari pihak ketiga, dan tidak ada satu pun yang memiliki audit throughput atau akurasi independen di baliknya. Peringatan itu berlaku untuk keseluruhan perbandingan dan tidak diulang di setiap baris.

Di mana Lightning lebih unggul: NVIDIA mengatakan checkpoint Lightning 30B-A3B NVFP4 telah diunduh sekitar 907.000 kali di Hugging Face, dibandingkan dengan sekitar 142 untuk checkpoint BF16 Super VL yang baru berusia satu hari. Itu bukan sinyal kualitas — melainkan perbedaan antara model yang dapat Anda jalankan di akselerator kelas laptop dan model yang tidak bisa.

Apa isi kedua checkpoint tersebut

Nemotron 3.5 Lightning 30B-A3B adalah mixture-of-experts hibrida yang dibangun dari lapisan Mamba-2 dan MoE yang berselang-seling dengan beberapa lapisan attention, 30B parameter total dan 3B aktif per token, konteks 1M token, serta teks sebagai satu-satunya input. NVIDIA melatihnya pada lebih dari 20 triliun token dengan resep pra-pelatihan NVFP4, menambahkan head Multi-Token Prediction, lalu melakukan fine-tuning pada data sintetis kode, matematika, sains, pemanggilan alat, dan pengikutan instruksi sebelum tahap pembelajaran penguatan GRPO. Model ini hadir dengan tiga strategi speculative decoding terpisah — DSpark untuk pekerjaan pusat data dan DGX Spark dengan konkurensi rendah, plus MTP dan DFlash — yang merupakan porsi rekayasa inferensi yang tidak biasa untuk model 30B, dan hal itu memberi tahu Anda siapa pengguna yang dituju: seseorang yang menjalankan agen secara lokal dan memperhatikan waktu nyata.

NVIDIA Nemotron 3.5 Super VL berbagi kerangka dan menambahkan mata. Hibrida Mamba-2, MoE, dan atensi yang berselang-seling sama, tetapi dengan 512 ahli routed per lapisan MoE, encoder visi C-RADIO dan konektor visi-bahasa, total 120B dan 12B parameter aktif, serta input teks, gambar, dan video. Tulang punggung bahasanya diinisialisasi dari Nemotron 3 Super Base, lalu didistilasi selama satu triliun token dari Nemotron 3 Ultra Base sebelum pra-pelatihan lanjutan, perluasan 35 miliar token ke konteks 1M, pelatihan menengah bidang rekayasa perangkat lunak, dan tahap pemulihan konteks panjang. Kedua rilis tersebut juga berbagi laporan teknis — NVIDIA menerbitkan karya Super dan Lightning secara bersamaan.

• Parameter aktif — 12B per token untuk Super VL dibandingkan 3B untuk Lightning. Empat kali komputasi pada setiap token yang dihasilkan, sebelum encoder visi dihitung.

• Modalitas — teks, gambar, dan frame video tersampel ke Super VL; teks masuk, teks keluar untuk Lightning. Bahasa yang didukung Lightning adalah Inggris, Spanyol, Prancis, Jerman, Italia, dan Jepang.

• Basis perangkat keras — 4×H100 atau 2×GB200 pada BF16 untuk Super VL, dengan build NVFP4 dan microservice NIM untuk produksi; satu DGX Spark, satu H100, RTX 5090 atau silikon kelas Ampere melalui W4A16 untuk Lightning.

• Konteks — 1 juta token pada keduanya, keduanya dengan resep yang dipublikasikan alih-alih satu maksimum yang diiklankan.

• Decoding spekulatif — Super VL menggunakan head MTP-nya sendiri secara native, tidak perlu mengunduh drafter; Lightning menyertakan varian DSpark, MTP, dan DFlash sebagai checkpoint terpisah.

• Lisensi — OpenMDW-1.1 untuk keduanya, penggunaan komersial diizinkan, dengan dataset terbuka dan lingkungan RL di Hub.

Apa yang angka-angka itu katakan dan tidak katakan

Pada harness milik NVIDIA sendiri, keduanya tidak dekat, dan itu wajar: model dengan 12B aktif seharusnya mengalahkan model dengan 3B aktif. Dengan mendasarkan selisih tersebut pada tabel terbitan NVIDIA: GPQA-Diamond 89,52 untuk Super VL versus 75,44 untuk Lightning; HLE hanya teks 31,79 versus 11,72; SWE-bench Verified 71,10 versus 51,56; Terminal-Bench 2.1 66,70 versus 24,58; AA-LCR 68,62 versus 52,00.

Pola di dalam baris-baris itu lebih berguna daripada baris-baris itu sendiri. Keunggulan Super VL sangat besar pada tolok ukur konteks panjang dan eksekusi agentik serta relatif moderat pada pengetahuan umum — MMLU-Pro adalah 76,91 berbanding 81,94 milik Lightning, yang merupakan kasus langka ketika model yang lebih kecil memenangkan sebuah baris. Itulah bentuk model yang sengaja dilatih menengah pada data rekayasa perangkat lunak dan diberi tahap pemulihan konteks panjang: model ini lebih baik dalam menuntaskan suatu tugas daripada mengingat fakta. Jika beban kerja Anda adalah menjawab pertanyaan faktual atas teks pendek, kerugian model 30B sebagian besar menguap, dan hal itu terjadi dengan seperempat komputasi per token.

NVIDIA mencantumkan peringatan pada kartu Lightning yang layak diulang secara verbatim dalam substansinya: angka-angka tersebut diukur dengan checkpoint NVFP4 resmi dan berlaku untuk checkpoint resmi NVFP4, dan NVIDIA mencatat bahwa evaluasinya sendiri mungkin berbeda dari angka yang dilaporkan vendor model pesaing. Itu adalah pernyataan yang luar biasa jujur, dan hal itu sama-sama berlaku untuk tabel Super VL.

Memilih tier, dan apa yang terjadi di atasnya

Aturan keputusan ditentukan oleh modalitas dan batas bawah, bukan oleh indeks. Apa pun yang harus membaca halaman — faktur, bagan, formulir pindaian, tangkapan layar aplikasi, bingkai video — hanya bisa diarahkan ke Super VL, karena Lightning sama sekali tidak memiliki jalur untuk piksel. Apa pun yang berupa teks masuk dan teks keluar, berjalan terus-menerus, dan berada di perangkat keras yang sudah Anda miliki, tempatnya di Lightning, karena model dengan 3B parameter aktif pada NVFP4 di satu akselerator memiliki basis biaya yang sama sekali berbeda dari dua belas miliar parameter aktif yang tersebar di empat GPU.

Di atas keduanya terdapat NVIDIA Nemotron 3 Ultra 550B-A55B, yang dibandingkan secara langsung oleh kartu Super VL dalam tolok ukur dan yang membutuhkan delapan unit GB200 atau enam belas unit H100. Tiga tingkatan, tiga kelas perangkat keras, satu lisensi. Keluarga ini dirancang agar satu organisasi dapat menerapkan ketiganya dan memindahkan pekerjaan di antara ketiganya, dan masalah rekayasa yang menarik bukanlah memilih salah satu — melainkan router yang menentukan permintaan mana yang pergi ke mana.

Lapisan perutean itulah tempat sebuah platform, bukan sebuah checkpoint, membuktikan nilainya, dan penting untuk bersikap tepat tentang apa yang kami lakukan dan tidak lakukan di sini. OrcaRouter tidak menyediakan NVIDIA Nemotron 3.5 Super VL, Nemotron 3.5 Lightning 30B-A3B, atau Nemotron 3 Ultra 550B-A55B; tidak satu pun dari ketiganya ada di katalog kami, dan checkpoint yang di-self-host menurut definisinya bukanlah sesuatu yang dapat diberikan oleh penyedia API kepada Anda. Yang kami sediakan adalah bagian yang mengelilingi armada campuran lokal dan hosted: DSL perutean yang menyusun beberapa model menjadi satu panggilan, sehingga sebuah pipeline dapat mengirim halaman-halaman mekanisnya ke model kecil yang murah dan hanya mengeskalasi yang sulit, dan failover otomatis di antara penyedia upstream sehingga ketergantungan hosted yang mengalami degradasi tidak ikut menjatuhkan pipeline. Sisi katalog dari persamaan itu — saat ini lebih dari dua ratus model di balik satu kunci dengan markup 0% di atas harga daftar penyedia — adalah yang dipanggil oleh cabang eskalasi. Lightning yang di-self-host yang menangani volume dan model hosted yang dirutekan yang menangani pengecualian adalah sistem yang lebih kecil dan lebih aman daripada salah satu bagiannya saja.

Apa yang harus ditonton

Kematangan relatif Lightning adalah variabel yang diremehkan. Model ini sudah tersedia untuk publik sejak Agustus, memiliki kuantisasi pihak ketiga, dukungan llama.cpp, Ollama, LM Studio, dan vLLM, serta basis unduhan yang cukup besar sehingga mode kegagalannya sudah diketahui. Super VL memiliki kartu model, laporan teknis, resep vLLM hari-pertama, dan jumlah unduhan yang baru berusia sehari. Menjalankannya di produksi bulan ini berarti menjadi orang yang menemukan sisi-sisi kasarnya.

Hal spesifik yang perlu diperhatikan adalah apakah build NVFP4 Super VL menutup kesenjangan perangkat keras cukup untuk berdampak. Jika model 120B-A12B terkuantisasi dapat berjalan secara berguna pada sejumlah kecil akselerator — bukan satu, tetapi kurang dari empat — maka batas tier bergeser dan seluruh keluarga tiga model itu menjadi lebih murah untuk di-deploy sebagai satu unit. Sampai itu terjadi, pemisahannya berdasarkan modalitas: Lightning untuk teks dalam volume besar di perangkat keras Anda sendiri, Super VL untuk apa pun yang memiliki piksel di dalamnya, Ultra ketika tugasnya benar-benar membutuhkan model terbesar yang dijual NVIDIA.