NVIDIA Nemotron 3.5 Super VL Meluncur: Bobot Terbuka 120B, Klaim 5x, dan Jebakan 249 GB

NVIDIA Nemotron 3.5 Super VL sudah rilis, dan spesifikasi yang seharusnya menentukan apakah Anda menyentuhnya bukanlah spesifikasi yang dijadikan sorotan utama dalam pengumuman. Model ini adalah sistem bahasa-visi 120B parameter dengan 12B parameter aktif, konteks 1M token, speculative decoding native, serta dukungan untuk teks, gambar, dokumen, dan video. Pos peluncuran NVIDIA bertanggal 15 Oktober 2026 dan memasarkannya sebagai model agentik terbuka tercepat di kelasnya — "hingga 5x throughput lebih cepat dibandingkan model lain di kelasnya," yang diukur pada papan peringkat Artificial Analysis Intelligence Index. Yang tidak ditampilkan pos itu kepada Anda adalah bahwa rilis ini terdiri dari dua checkpoint, bahwa perbedaan di antara keduanya adalah 174 GB VRAM, dan bahwa model yang lebih kecil menanggung penghematan itu secara tidak merata.

Apa yang sebenarnya dirilis pada 15 Oktober

Dua hal terjadi pada hari yang berbeda, dan selisihnya penting jika Anda sedang menentukan tanggal sebuah deployment. Bobot model muncul di Hugging Face pada 12 Oktober pukul 15.32 UTC. Pengumuman menyusul pada 15 Oktober. Kartu model milik NVIDIA sendiri mencantumkan rilis sebagai 10/15/2026 pada versi 1.0 GA, jadi vendor menganggap tanggal 15 sebagai tanggal peluncuran; stempel waktu repositori menyatakan sebaliknya. Tidak ada satu pun tanggal itu yang berumur lebih dari sepekan, dan keduanya cukup baru sehingga belum ada apa pun tentang rilis ini yang sempat direproduksi secara independen.

Rilis ini lebih luas daripada model yang menjadi asal nama pengumuman tersebut:

• Nemotron 3.5 Super VL — produk unggulan, total 120B / 12B aktif, dalam build BF16 dan build NVFP4, keduanya dirilis pada 12 Oktober.

• Nemotron 3.5 Super VL Base — checkpoint pra-pasca-pelatihan, diterbitkan bersama build instruct, yang penting karena lisensinya memungkinkan Anda menjalankan pasca-pelatihan sendiri.

• Nemotron 3.5 Bolt 74B-A9B 24GB — model edge yang muat dalam 24 GB melalui kuantisasi 2-bit native, diterbitkan 7 Oktober.

• Nemotron 3.5 Bolt E4B 4GB — yang terkecil dari keluarga, bertanggal 23 Oktober.

Arsitekturnya adalah Mixture-of-Experts hibrida Mamba-2/Transformer dengan Multi-Token Prediction, 512 expert yang dirutekan per lapisan MoE, encoder visi C-RADIO, dan konektor visi-bahasa. Penanganan multimodal mencakup OCR, tabel, bagan, dokumen multi-halaman, dan visual grounding; video diterima dalam format MP4 hingga dua menit, disampel pada 2 FPS dan hingga 256 frame, atau 1 FPS dan 128 frame pada 1080p. Lisensinya adalah OpenMDW-1.1, yang menurut kartu model siap untuk penggunaan komersial atau non-komersial — seperangkat ketentuan yang benar-benar permisif, dan bagian nyata dari alasan rilis ini mendapat perhatian.

Dua pos pemeriksaan, dan 174 GB di antara keduanya

Inilah bagian yang membuat rilis ini menarik bagi siapa pun yang harus membayar GPU. NVIDIA menerbitkan model yang sama dua kali, pada dua presisi, dan kedua build tersebut tidak berdekatan ukurannya. Kedua angka di bawah ini dibaca dari daftar berkas repositori Hugging Face, yang melaporkan ukuran setiap shard bobot:

• Checkpoint BF16 — 248,94 GB di 63 shard. Header safetensors menunjukkan jumlah parameter sebesar 124,45 miliar.

• Checkpoint NVFP4 — 75,06 GB tersebar di 88 shard. Inferensi menggunakan W4A4 pada Blackwell dan W4A16 pada perangkat yang lebih lama.

• Perangkat keras, presisi penuh — Kartu NVIDIA mencantumkan 4× H100 atau 2× GB200 untuk teks, gambar, dan video.

• Perangkat keras, terkuantisasi — 1× H200, 2× H100, 1× GB200, atau satu DGX Spark, dengan jalur Spark memerlukan drafter LiLiCorr untuk decoding spekulatif.

• Penghematan — 173,88 GB, atau sekitar 3,3× lebih kecil di disk, dan perbedaan antara node empat GPU dan satu akselerator.

Bacalah itu sebagai pertanyaan ekonomi, karena memang itulah adanya. Beralih dari empat H100 ke satu H200 bukanlah keputusan penyetelan; itu adalah perbedaan antara model yang dapat Anda tempatkan di balik produk pada kuartal ini dan model yang tidak. Resep kuantisasi yang digunakan NVIDIA juga lebih cermat daripada yang biasa: encoder visi, konektor, konvolusi Mamba, dan embedding tetap dalam BF16, router MoE tetap dalam FP32, dan sisanya dihasilkan melalui distilasi sadar kuantisasi dari model BF16 dengan 200 iterasi distilasi berbasis SFT di atasnya.

Apa yang dikorbankan oleh build terkuantisasi

NVIDIA menerbitkan tabel berpasangan yang membandingkan kedua checkpoint dengan setiap pengaturan lain dibiarkan statis, yang merupakan cara jujur untuk menjalankan perbandingan ini dan lebih jarang dilakukan daripada seharusnya. Pasangan-pasangan di bawah ini adalah angka milik NVIDIA sendiri, dari kartu model NVFP4, dan tidak semuanya mengarah ke arah yang sama.

Di mana build terkuantisasi kalah:

• Terminal-Bench 2.1 — 66,70 dalam BF16 dibandingkan 60,80 dalam NVFP4. Penurunan 5,9 poin, regresi tunggal terbesar dalam tabel.

• WebVoyager, offline — 77,72 versus 66,31. Penurunan 11,4 poin pada pekerjaan agen browser.

• DeepSWE, offline — 24,65 dibandingkan 18,20.

• MMLU-ProX — 76,91 dibanding 73,76.

• tau3-bench banking — 18.88 dibanding 17.78.

Di mana ia menguat, atau bertahan:

• GPQA-Diamond — 89.52 dibandingkan dengan 89.90.

• Daftar pendek APEX — 88,36 dibandingkan dengan 89,36.

• Tingkat halusinasi AA-Omniscience — 30,0 dibandingkan dengan 27,7, yaitu build terkuantisasi berhalusinasi sedikit lebih jarang pada ukuran NVIDIA sendiri.

• tau2-bench telecom — 73.19 kedua sisi, identik.

• OCRBench v2 EN — 68.12 dibandingkan 68.34.

• MMLongBench-Doc — 62,82 di kedua sisi.

Polanya terbaca jelas tanpa seorang ahli statistik. Beban kerja dokumen, OCR, dan recall pengetahuan nyaris tidak berubah, dan sebagian malah membaik. Beban kerja agentik berhorizon panjang berubah banyak. Jika aplikasi Anda membaca berkas resmi, struk, atau gambar halaman dan mengembalikan keluaran terstruktur, checkpoint 75 GB adalah yang seharusnya Anda layani dan Anda nyaris tidak mengorbankan apa pun. Jika aplikasi Anda adalah agen yang menjalankan terminal atau mengendalikan browser selama puluhan langkah berurutan, Anda menukar sekitar sembilan persen Terminal-Bench dengan tiga perempat tagihan GPU Anda, dan itu adalah keputusan yang layak dijalankan pada eval Anda sendiri alih-alih pada tabel vendor.

5x, dan apa yang dijadikan tolok ukurnya

Sorotan utama NVIDIA adalah throughput, dan itu layak dibaca secara presisi, bukan diabaikan atau diulang begitu saja. Klaimnya adalah "hingga 5x throughput lebih cepat dibandingkan model lain di kelasnya," dan kelasnya tidak didefinisikan dalam pos tersebut. Pengukurannya dilakukan oleh NVIDIA, pada stack penyajian NVIDIA, pada tingkat konkurensi dan campuran urutan apa pun yang dipilih oleh resep tersebut — tabel deployment di kartu model itu sendiri menetapkan 32 sekuens konkuren dan 5 atau 3 token draf spekulatif bergantung pada perangkat keras, dan throughput pada proksi agentik 20 giliran adalah angka yang sangat berbeda dari throughput pada prompt single-shot.

Tidak satu pun dari itu membuat klaim tersebut keliru. Itu menjadikannya klaim vendor tentang beban kerja yang dikonfigurasi vendor, yang persis seperti yang dinyatakan labelnya. Yang patut dicatat adalah pada rilis ini tidak ada penyeimbang: belum ada pengukuran throughput independen atas checkpoint-checkpoint ini yang diterbitkan, jadi satu-satunya angka yang beredar adalah milik NVIDIA. Angka throughput tanpa model dasar yang disebutkan, konkurensi yang dinyatakan, dan konfigurasi perangkat keras yang dinyatakan bukanlah sesuatu yang bisa Anda jadikan dasar perencanaan kapasitas. Jika angka 5x itu menjadi penopang keputusan Anda, reproduksikanlah pada lalu lintas Anda sendiri sebelum Anda menandatangani reservasi GPU.

Di mana model ini kuat, menurut tabel NVIDIA sendiri

Kartu model tunggal juga mencantumkan bagaimana checkpoint BF16 dibandingkan dengan rekan-rekannya, dan ada baiknya membaca kolom-kolom di sebelah kanan milik NVIDIA sendiri, karena kolom-kolom itu juga milik NVIDIA. Dibandingkan dengan Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small, dan GLM-5.3-Flash:

• Video-MME v2 — 32,85, dibandingkan dengan Qwen3.8-Flash-Next pada 45,1 dan GLM-5.3-Flash pada 14,8. Berada di tengah-tengah bidang, dan sebaran terlebar di antara semua baris.

• OCRBench v2 EN — 68.12, kurang lebih setara dengan Qwen3.8-Flash-Next pada 67.9 dan Qwen3.5-122B-A10B pada 68.3.

• Penalaran CharXiv — 80.82, di belakang kedua model Qwen.

• MathVision — 78,16, tertinggal dari Qwen3.8-Flash-Next pada 87,5.

• MMLU-ProX — 76,91, tertinggal dari setiap kolom pembanding pada baris itu.

• Tingkat halusinasi AA-Omniscience — 30,0, dibandingkan dengan Qwen3.5-122B-A10B pada 84,5 dan DeepSeek-V4-Flash pada 95,9. Pada baris ini, semakin rendah semakin baik, dan selisihnya tidak kecil.

• Terminal-Bench 2.1 — 66,70, dibandingkan dengan Qwen3.8-Flash-Next pada 85,8 dan GLM-5.3-Flash pada 82,7.

• SWE-bench Verified — 71,10, dibandingkan dengan GLM-5.3-Flash pada 79,10.

• OSWorld-Verified — 51.14, dibandingkan dengan GLM-5.3-Flash sebesar 14.78.

Profilnya konsisten dengan apa yang NVIDIA katakan tentang tujuan model ini. Model ini bukan yang terdepan dalam penalaran mentah atau pengodean, dan tidak mengklaim demikian — pengumuman itu memosisikannya terhadap model terbesar miliknya sendiri dengan jumlah parameter sekitar seperlima, bukan terhadap model terdepan. Model ini kuat dalam disiplin halusinasi, ekstraksi dokumen, dan pekerjaan agen desktop, berada di kelas menengah untuk video, dan tertinggal pada benchmark terminal agentik yang paling sulit. Jika Anda datang ke rilis ini karena "pemahaman video" ada di baris pertama pengumuman, angka video itulah yang perlu dicermati dengan saksama.

Berapa biaya untuk menjalankannya

Tidak ada harga daftar, dan itu bukan kelalaian dari pihak NVIDIA — itulah bentuk dari rilis bobot terbuka. NVIDIA tidak menjual model ini per token dengan tarif yang dipublikasikan; NVIDIA menerbitkan bobot di bawah OpenMDW-1.1 dan kontainer NIM dengan konfigurasi yang tervalidasi, dan Anda membayar GPU-nya. Jadi pertanyaan biaya adalah pertanyaan jam GPU, dan dua jawaban yang dapat diterima adalah 4× H100 untuk BF16 atau satu H200 atau satu DGX Spark untuk NVFP4.

Itulah bagian aritmetika yang paling sering salah dihitung oleh tim ketika membandingkan model terbuka dengan API yang dihosting. Sisi hosted menyebutkan tarif per token yang sudah mencakup kurva pemanfaatan milik orang lain. Sisi terbuka menyebutkan checkpoint dan daftar perangkat keras minimum, dan angka sebenarnya sepenuhnya bergantung pada apakah Anda dapat menjaga GPU tetap sibuk. Satu H200 yang menjalankan checkpoint 75 GB untuk melayani satu alur kerja internal beberapa ratus kali sehari jauh lebih mahal per panggilan daripada checkpoint yang sama pada deployment bersama. Sewa dulu sebelum membeli, dan ukur token per detik pada prompt Anda sendiri, bukan pada beban kerja proksi.

Mencobanya sebelum Anda mempertaruhkan sebuah produk pada hal itu

Langkah pertama yang jujur pada model yang dokumentasinya baru berumur sehari adalah evaluasi, bukan migrasi, dan di situlah gateway melakukan pekerjaan nyata alih-alih sekadar retorika. Satu kunci untuk lebih dari 200 model pada harga daftar penyedia dengan markup 0% berarti perbandingan yang sebenarnya Anda inginkan — Nemotron 3.5 Super VL melawan model teks atau visi yang Anda jalankan hari ini — hanyalah perubahan pada string model, bukan hubungan vendor kedua, dan failover otomatis antar penyedia berarti beban kerja yang sedang Anda uji dapat berjalan berdampingan dengan lalu lintas produksi tanpa keduanya saling bergantung. Hal ini lebih penting di sini daripada biasanya: kedua checkpoint berperilaku cukup berbeda pada pekerjaan agentik sehingga eksperimen yang berguna bukanlah "apakah model ini bagus" melainkan "yang mana dari kedua build ini, pada benchmark saya yang mana, dengan biaya GPU berapa."

Urutan yang menghindari pemborosan satu bulan-GPU: pilih dulu beban kerja berbentuk dokumen, karena di situlah kesenjangan BF16 versus NVFP4 paling kecil dan angka milik model itu sendiri paling baik. Jalankan terhadap checkpoint yang lebih kecil. Beri skor dengan eval yang Anda tulis. Baru setelah itu putuskan apakah beban kerja agentic — yang pada build terkuantisasi kehilangan 5,9 poin di Terminal-Bench dan 11,4 di WebVoyager — membenarkan build 249 GB dan empat GPU.

Apa yang masih belum terjawab

Tiga celah patut diperhatikan karena mengubah keputusan, bukan pemasaran.

Yang pertama adalah evaluasi independen. Setiap angka dalam artikel ini yang berasal dari NVIDIA diberi label demikian, dan pada rilis ini semuanya memang demikian. Tidak ada pihak ketiga yang telah menerbitkan pengukuran throughput, reproduksi akurasi, atau perbandingan harness evaluasi untuk kedua checkpoint. Klaim throughput 5x dan tabel kuantisasi berpasangan tersebut konsisten secara internal dan jelas disusun dengan cermat, namun keduanya tetap dilaporkan vendor dan belum direproduksi. Anggap keduanya sebagai batas atas sampai seseorang di luar NVIDIA menerbitkan eksperimen yang sama.

Yang kedua adalah jalur video. Model ini menerima MP4 dan pengumumannya mengedepankan pemahaman video, tetapi pada satu-satunya tolok ukur video di tabel NVIDIA sendiri, nilainya berada di 32,85 sementara Qwen3.8-Flash-Next berada di 45,1. Data pelatihan mencakup video dari 10.000 hingga satu juta jam, yang merupakan rentang lebar dan tidak memberi tahu apa pun tentang kepadatan atau domain. Jika video adalah kasus penggunaan Anda, inilah baris yang harus diuji terlebih dahulu dan baris yang paling mungkin mengecewakan dek pengadaan yang disusun dari pengumuman.

Yang ketiga adalah checkpoint dasar. Publikasinya di bawah lisensi yang sama adalah bagian dari rilis ini dengan ekor terpanjang, karena hal itu memungkinkan tim dengan datanya sendiri menjalankan pasca-pelatihan alih-alih melakukan prompting di sekitar milik vendor. Korpus pasca-pelatihan milik NVIDIA untuk keluarga ini juga terbuka, dan ukuran efek dalam laporan NVIDIA mencapai puluhan poin di dalam harness NVIDIA. Belum ada yang menerbitkan fine-tune independen yang kredibel dari basis itu. Ketika seseorang melakukannya, itu akan memberi tahu Anda lebih banyak tentang plafon nyata model ini daripada yang dilakukan postingan peluncuran.

Bobotnya dapat diunduh hari ini dan lisensinya memungkinkan Anda menggunakannya secara komersial. Dua hal yang tidak dapat Anda unduh adalah tolok ukur independen dan angka throughput dengan baseline yang disebutkan — dan keduanya adalah yang Anda perlukan sebelum menetapkan jalur produksi pada model yang saat ini berusia empat hari.