NVIDIA Nemotron 3.5 Super VL: Model Terbuka 120B yang Dirilis Sebelum Pos Blognya Sendiri

Bobot untuk N​VIDIA N​emotron 3.5 Super VL sudah ada di Hugging Face tiga hari sebelum N​VIDIA menulis tentangnya. Repo presisi penuh, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, dibuat pada 2026-10-12T15:32:06Z. Varian terkuantisasinya, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, diunggah 24 detik kemudian. Posting blog developer N​VIDIA sendiri yang menjelaskan model ini bertanggal 15 Oktober 2026 — hari yang sama dengan yang disebutkan kartu modelnya, "Hugging Face - 10/15/2026". Jadi, artefak publik dan pengumuman publik muncul pada hari yang berbeda, dan selisihnya cukup kecil sehingga tidak ada tanggal yang salah dan keduanya layak diketahui.

Berikut ini adalah apa yang sebenarnya dikatakan oleh repo dan postingan N​VIDIA tentang model visi-bahasa berparameter 120B dengan 12B aktif ini: arsitekturnya, hitungan penerapannya, titik di mana tabel terbitannya sendiri menunjukkan bahwa model ini kalah, dan jebakan lisensi yang sama sekali tidak disebutkan dalam postingan blog tersebut.

What N​emotron 3.5 Super VL sebenarnya adalah

N​VIDIA menggambarkannya dalam unggahannya sendiri sebagai "model multimodal yang terbuka dan dapat disesuaikan" yang dibangun untuk alur kerja agen khusus — penalaran, mengikuti instruksi, dan penggunaan alat, dikombinasikan dengan pemahaman teks, gambar, dokumen, dan video dalam satu set bobot. Inti dari kombinasi itu, sebagaimana dirumuskan N​VIDIA, adalah bahwa tim "dapat menangani tugas teks dan visual tanpa men-deploy model teks dan model bahasa-visi terpisah atau meneruskan konteks tugas di antara keduanya."

Arsitekturnya, menurut kartu model:

• Bentuk — 120B total parameter, 12B aktif per token. Model mixture-of-experts dengan 512 expert routed per lapisan MoE.

• Backbone — lapisan Mamba-2, attention, dan MoE yang berselang-seling, desain hibrida N​emotron yang diwarisi dari lini N​emotron 3.

• Visi — encoder visi C-RADIO plus konektor visi-bahasa. String arsitektur transformers adalah NemotronH_Omni_Reasoning_V3, tipe model nemotron_h_omni.

• Konteks — hingga 1 juta token, dengan prompt, gambar, riwayat percakapan, hasil tool, dan respons yang dihasilkan semuanya berbagi jendela tersebut.

• Decoding spekulatif — head Multi-Token Prediction bawaan, jadi tidak perlu mengunduh drafter terpisah untuk resep vLLM dan SGLang yang diterbitkan NVIDIA.

• Mode penalaran — dapat dialihkan melalui templat chat via enable_thinking, dengan pengaturan medium_effort di antaranya. Token penalaran dan jawaban berbagi anggaran max_tokens yang sama, yang ditandai secara eksplisit oleh kartu karena ini biasanya penyebab keluaran agen yang terpotong.

• Input — teks, gambar RGB (JPEG, PNG) dan video MP4 hingga dua menit. Pengambilan sampel video yang direkomendasikan dalam resep vLLM adalah 2 FPS dan 256 frame dengan tingkat pemangkasan 0,5; untuk 1080p, kartu tersebut menyebutkan turunkan ke 1 FPS dan 128 frame.

• Bahasa — Inggris, Spanyol, Prancis, Jerman, Italia, dan Jepang di frontmatter kartu. NVIDIA juga menyatakan bahwa korpus pelatihan mencakup bahasa Inggris plus 19 bahasa lisan lainnya dan 43 bahasa pemrograman.

Dua tingkat presisi, dan memori yang mereka beli

N​VIDIA merilis model tersebut dua kali, dan lonjakan memori di antara keduanya adalah satu-satunya angka yang paling relevan untuk pengambilan keputusan dalam rilis ini.

• BF16 — referensi presisi penuh. Repositori ini menyimpan 64 shard safetensors dengan total sekitar 231,8 GiB. Resep penyajian NVIDIA sendiri adalah --tensor-parallel-size 4 pada 4× H100, atau TP2 pada 2× GB200.

• NVFP4 — bobot dan aktivasi 4-bit dengan distilasi sadar-kuantisasi, yang menurut NVIDIA "menutup kesenjangan akurasi yang diperkenalkan oleh kuantisasi." Checkpoint yang sama berjalan pada perangkat keras non-Blackwell dengan bobot 4-bit dan aktivasi 16-bit, dan QAD juga memungkinkan cache KV disimpan dalam NVFP4 alih-alih FP8. Karena kuantisasi terjadi selama pelatihan, bukan setelahnya, NVIDIA menyatakan ini tidak menambah overhead inferensi. Kartu NVFP4 mencantumkan penerapan pada 1× DGX Spark, 1× H200, 2× H100 atau 1× GB200.

Baris terakhir itu adalah yang praktis. Model 120B yang muat pada dua H100 dalam FP4 alih-alih empat dalam BF16 adalah diskusi pembelian yang berbeda, dan itulah sebabnya repo terkuantisasi adalah yang ditunjuk N​VIDIA untuk penyajian efisien. Saudara ketiga, N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, muncul di Hugging Face sehari sebelum pasangan utama tanpa pengumuman yang menyertai; blog N​VIDIA kemudian menjelaskan LiLiCorr sebagai teknik speculative-decoding terbuka dan menyebutnya "drafter yang direkomendasikan untuk inferensi latensi rendah dengan N​emotron 3.5 Super VL" di DGX Spark. Repo-nya muncul empat hari sebelum penjelasan itu, yang merupakan ilustrasi yang pantas tentang bagaimana rilis ini muncul.

Ada pertanyaan sah yang mendasari lompatan itu — apa yang dikorbankan oleh tier NVFP4 dibandingkan dengan referensi BF16 — tetapi jawaban NVIDIA sendiri adalah klaim metodologi pelatihan, bukan tabel akurasi berdampingan yang diterbitkan untuk kedua checkpoint tersebut. Jika pilihan presisi adalah hal yang menjadi dasar keputusan Anda, perbandingan itu tidak ada di repo.

Di mana tabel benchmark-nya sendiri menunjukkan bahwa ia kalah

Kartu model ini memuat tabel benchmark besar yang dijalankan vendor — sekitar 40 baris — yang mencakup penalaran, coding, tugas agentik, konteks panjang, serta pekerjaan multibahasa dan multimodal. NVIDIA luar biasa terbuka di sini: mereka menyebutkan perbandingannya, dan beberapa di antaranya tidak menyanjung model tersebut. Angka miliknya sendiri terhadap pesaing terbuka terdekat dalam bentuk yang sama, Qwen3.5-122B-A10B:

• GPQA-Diamond — N​emotron 3.5 Super VL 89.52 vs Qwen3.5-122B-A10B 86.7 (N​emotron unggul)

• HLE, hanya teks — 31.79 vs 24.2 (N​emotron unggul)

• MMLU-ProX — 76.91 vs 83.2 (Qwen unggul lebih dari enam poin)

• CritPt — 10.86 vs 1.1 (N​emotron unggul dengan selisih besar)

• LiveCodeBench v6 — 88.22 vs 76.7 (N​emotron unggul pada harness ini)

• SWE-bench Verified — 71,10 vs 71,9 (seri, masih dalam batas noise)

• SWE-bench Pro — 51.78 vs 44.9 (N​emotron unggul)

• tau2-bench retail — 69.24 vs 55.4 (N​emotron unggul)

• tau2-bench telecom — 73.19 vs 87.2 (Qwen unggul 14 poin)

• AA-LCR v1.1 — 68.62 vs 75.1 (Q​wen unggul dalam konteks panjang)

• BabyVision — 29.60 vs 35.7 (Qwen unggul)

• MathVision — 78,16 vs 83,3 (Qwen unggul)

• OCRBench v2, Bahasa Inggris — 68.12 vs 68.3 (pada dasarnya setara)

• OCRBench v2, Tionghoa — 59.15 vs 67.3 (Qwen unggul delapan poin)

• V* — 85.60 vs 91.1 (Qwen unggul)

• IFBench — 70.86 vs 67.6 (N​emotron unggul)

• Indeks AA-Omniscience — 4,03 vs -36,1 (keduanya lemah; Nemotron jauh lebih tidak negatif)

Ada tiga hal yang perlu dikatakan tentang tabel ini daripada membiarkan kemenangan-kemenangan itu berbicara sendiri.

Pertama, setiap angka di dalamnya — milik N​emotron dan milik setiap baseline — dilaporkan vendor dan dikumpulkan melalui harness milik N​VIDIA sendiri. Kartu itu menyatakannya secara langsung: "Semua hasil evaluasi untuk N​emotron 3.5 Super dan baseline dikumpulkan melalui NeMo Gym," dengan catatan reprodusibilitas yang diterbitkan di repositori NeMo Gym. Itu pengungkapan yang lebih baik daripada yang mampu dilakukan sebagian besar lab, dan tetap saja itu bukan skor independen. Bacalah kolom-kolom itu sebagai pengukuran satu lab terhadap beberapa model, bukan sebagai papan peringkat yang netral.

Kedua, N​VIDIA sendiri mencantumkan tolok ukur yang tidak diintegrasikan ke dalam perkakas terbukanya — BabyVision, CharXiv-RQ, MathVision, MMLongBench-Doc, OCR-Reasoning, OCRBench-v2, V* dan Video-MME-v2 — dan menyatakan bahwa tolok ukur tersebut menggunakan implementasi resmi atau "perancah internal yang kami rencanakan untuk dijadikan sumber terbuka di masa mendatang." Setiap baris multimodal dalam tabel tersebut membawa catatan itu.

Ketiga, pola dalam kekalahan itu koheren, bukan acak. Celahnya ada pada OCR bahasa Mandarin, penalaran konteks panjang, serta matematika visual dan pembacaan grafik. Kemenangannya mengelompok pada tolok ukur pemanggilan alat dan tugas agentik berhorizon pendek — CritPt, tau2-bench retail and airline, APEX, Terminal-Bench 2.1 pada 66,70 berbanding 48,70 milik Q​wen, SWE-bench Pro. Untuk model yang diposisikan N​VIDIA sebagai eksekutor dalam tumpukan agen multi-model, itu adalah profil yang bisa dipertahankan. Jika beban kerja Anda adalah penguraian dokumen berbahasa Mandarin atau konteks analitis yang sangat panjang, tabel yang sama memberi tahu Anda hal lain.

Post-trained mengalahkan base, dan NVIDIA memimpin dalam hal itu.

Klaim akurasi paling konkret dalam pos blog N​VIDIA bukanlah skor benchmark. Klaim itu tentang kustomisasi: bahwa pasca-pelatihan model dasar N​emotron 3.5 Super VL dapat membawa beban kerja khusus melampaui Claude Opus 5. Contoh N​VIDIA adalah klaim asuransi kesehatan, di mana mereka menyebut adanya peningkatan 44% dari pasca-pelatihan.

Dua hal penting tentang bagaimana N​VIDIA melaporkan ini. Angka itu dikaitkan dengan klaim kenaikan dari pasca-pelatihan, bukan pada perbandingan model-vs-model di benchmark publik — yang merupakan jenis bukti yang berbeda dan lebih lemah. Dan tulisan N​VIDIA sendiri dengan hati-hati menyatakan bahwa kenaikan ini disertai catatan: "model dasar itu tidak mengungguli model-model frontier proprietary dengan sendirinya" adalah versi jujur dari kalimat tersebut, dan kerangkanya adalah bahwa keunggulan bobot terbuka adalah sebuah bisnis dapat melakukan pasca-pelatihan pada datanya sendiri dan menjalankan hasilnya di infrastrukturnya sendiri.

Sisi vendor dari cerita yang sama terbilang tipis. N​VIDIA menyebut Scale AI, Ramp, dan AI21 sebagai organisasi yang melakukan post-training pada model tersebut; Ramp dikutip mengharapkan "throughput hingga 50% lebih tinggi dan latensi 10x lebih rendah" untuk ekstraksi struk ke JSON, Scale AI mengharapkan pengurangan biaya inferensi sebesar 40x dan perbaikan latensi sebesar 5x untuk pemrosesan kredit vendor. Itu adalah ekspektasi dan hasil yang dinyatakan pelanggan, yang dipublikasikan oleh vendor, tanpa pengukuran independen yang mendasarinya. Bisa jadi semua itu memang berlaku. Tidak ada pihak di luar perusahaan-perusahaan itu yang memeriksanya.

Yang memang N​VIDIA publikasikan dan membantu adalah kumpulan resepnya: NeMo AutoModel untuk SFT dan LoRA, NeMo RL dan NeMo Gym untuk pembelajaran penguatan dan evaluasi berbasis lingkungan, NeMo Data Designer untuk pembangkitan data multimodal, ditambah 45 dataset visi-bahasa dan serangkaian dataset penggunaan alat agentik, penalaran keuangan, dan mengikuti instruksi di Hugging Face. Tutorial reproduksibilitas untuk benchmark yang dipublikasikan tersedia di repositori NeMo Gym. Bagian terakhir benar-benar berguna — artinya Anda dapat mencoba menjalankan ulang evaluasi N​VIDIA sendiri alih-alih memercayai tabelnya.

Lisensi ini tidak seperti yang tersirat dalam pemasaran

Ini adalah detail yang membuat repo layak dibaca, bukan postingan blognya.

Postingan NVIDIA menyebut model itu sebagai "model multimodal yang terbuka dan dapat disesuaikan" dan merujuk pada "bobot terbuka model tersebut." Kedua pernyataan itu akurat tentang bobotnya. Tidak satu pun merupakan pernyataan tentang lisensi. Frontmatter kartu model berbunyi license: other, dengan license_name: openmdw-1.1, dan ketentuan yang mengikat adalah Perjanjian Lisensi OpenMDW versi 1.1 di openmdw.ai/license/1-1/. Kartu tersebut menyatakan secara jelas bahwa model itu "siap untuk penggunaan komersial atau non-komersial" dan istilah deployment NVIDIA sendiri merujuk pada menjalankannya di "lingkungan lokal, pusat data, atau cloud yang didukung."

Jadi: dapat digunakan secara komersial, menurut N​VIDIA. Namun "open" di sini berarti OpenMDW-1.1, bukan Apache 2.0 dan bukan MIT. Jika organisasi Anda memiliki daftar lisensi open-source yang telah disetujui sebelumnya, daftar itulah yang perlu diperiksa sebelum hal lainnya — dan perbedaan praktis antara "open weights" dan lisensi yang disebutkan namanya adalah persis jenis celah yang membuat Anda kehilangan satu siklus rilis karena baru ditemukan terlambat. Ini bukan kritik terhadap model tersebut, dan OpenMDW bukan lisensi yang restriktif. Ini adalah pengingat bahwa kata sifat dalam posting blog itu tidak melakukan kerja sebanyak frontmatter kartu tersebut.

Mencobanya tanpa mempertaruhkan jalur produksi padanya

Resep deployment yang dipublikasikan secara eksplisit hanya untuk satu mesin, dan itu membentuk cara ini dievaluasi. Perintah vLLM N​VIDIA di kedua kartu berjalan pada TP4 di 4× H100 atau TP2 di 2× GB200 dengan --trust-remote-code — model ini menyertakan kode pemodelan khusus — dan resep SGLang menggunakan lmsysorg/sglang:v0.5.20 pada dua GB200. Untuk DGX Spark tersedia checkpoint drafter LiLiCorr khusus, dan N​VIDIA merekomendasikannya dalam semua skenario Spark; perusahaan mengklaim pembuatan token hingga 2,3x lebih cepat dibandingkan decoding tanpa spekulasi. Pada 16 B200 dengan Dynamo, N​VIDIA menyebut dapat melayani hingga 8x lebih banyak pengguna dengan latensi token pertama turun 85% pada 50 token per detik per pengguna. Semuanya adalah pengukuran internal vendor.

Itu adalah biaya evaluasi yang nyata untuk model yang baru berusia tiga hari, tidak memiliki papan skor independen, dan yang baris-baris multimodalnya disertai catatan bahwa scaffolding-nya belum dibuka. Cara murah untuk menilainya bukanlah dengan lebih dulu menyiapkan empat H100.

Cara murah untuk melihat rilis yang masih sangat baru ini adalah melalui satu gateway alih-alih pesanan perangkat keras kedua. Di OrcaRouter, itu berarti satu kunci untuk 200+ model pada harga daftar penyedia dengan markup 0%, tanpa kontrak terpisah dan tanpa perubahan kode, serta failover otomatis antar penyedia sehingga model yang belum Anda validasi bukan titik kegagalan tunggal dalam jalur produksi. Model khusus ini belum ada di katalog — NVIDIA merilisnya beberapa hari lalu — jadi saat ini model tersebut berasal dari API vendor sendiri atau platform pihak ketiga yang melayaninya. Yang Anda dapatkan adalah perbandingan yang benar-benar dapat Anda jalankan sekarang: tempatkan kandidat yang diklaimnya dapat dikalahkan di belakang kunci yang sama, jalankan tugas Anda sendiri melalui mereka dan terhadap model yang sudah Anda gunakan, dan biarkan lapisan routing membuat penggantian itu menjadi perubahan konfigurasi alih-alih migrasi. Barulah pertanyaan tentang 4× H100 atau 2× GB200 menjadi keputusan pembelian, bukan tebakan.

Intinya bukanlah bahwa routing menggantikan benchmark. Intinya adalah bahwa keputusan yang bisa Anda ambil hari ini adalah tugas mana yang seharusnya ditangani model ini di dalam stack Anda, dan keputusan itu tidak memerlukan pemesanan perangkat keras.

Apa yang belum ditetapkan

Daftar jujur tentang hal-hal yang belum diketahui itu singkat tetapi berdampak besar, dan daftar itulah yang harus dijadikan dasar, bukan materi pemasaran:

• Tidak ada evaluasi independen.Semua skor yang dikutip di atas berasal dari uji coba NeMo Gym milik NVIDIA. Blog NVIDIA mengutip pengujian benchmark Artificial Analysis dan evaluasi independen dari EXO Labs yang menempatkan model ini pada batas Pareto akurasi versus penyelesaian tugas di DGX Spark, tetapi kartu model tersebut tidak menerbitkan skor pihak ketiga miliknya sendiri, dan tidak ada halaman model independen untuknya di agregator utama pada saat penulisan ini.

• Selisih akurasi BF16 versus NVFP4 tidak terkuantifikasi. Kasus NVFP4 NVIDIA dibangun di atas distilasi sadar kuantisasi yang menutup kesenjangan. Itu adalah klaim metodologi, bukan perbandingan akurasi yang dipublikasikan antara dua checkpoint yang benar-benar dapat Anda unduh.

• Kampanye benchmark tersebut sebagian dijalankan menggunakan perkakas milik NVIDIA sendiri.Delapan benchmark multimodal menggunakan implementasi resmi atau kerangka internal yang menurut NVIDIA "berencana untuk membuka sumbernya di masa depan" — yang berarti hasil tersebut secara prinsip dapat direproduksi, suatu hari nanti, dan bukan hari ini.

• Peningkatan pasca-pelatihan dilaporkan oleh vendor dan pelanggan. Peningkatan klaim sebesar 44% serta angka Ramp dan Scale AI dinyatakan oleh NVIDIA mengenai pelanggannya sendiri. Tidak ada yang mengukurnya secara independen.

• Perilaku konteks panjang pada jendela 1M penuh belum diuji di luar vendor. Arsitektur ini dibangun untuk itu dan N​VIDIA menerbitkan resep penerapan untuknya. Apakah recall tetap bertahan di sepanjang satu juta token penuh pada dokumen nyata adalah persis jenis hal yang muncul dalam pengujian independen dan tidak muncul dalam tabel vendor.

Haruskah Anda menindaklanjuti ini sekarang?

Jika Anda membangun agen dokumen, bagan, video, atau multi-alat dan Anda sudah menganggarkan untuk inferensi kelas 120B, ini layak ditinjau sungguh-sungguh minggu ini: tier NVFP4 menempatkannya di dua H100, lisensinya mengizinkan penggunaan komersial, dan baris pemanggilan alat dalam tabel NVIDIA adalah bagian terkuatnya. Bentuk aktif 12B juga berarti biayanya lebih murah per token daripada yang disiratkan oleh total 120B-nya — dan, di sisi OrcaRouter, perubahan harga vendor untuknya langsung berlaku pada hari yang sama alih-alih setelah siklus penagihan, karena harga daftar penyedia diteruskan tanpa tambahan markup.

Jika beban kerja Anda bergantung pada OCR berbahasa Tionghoa, konteks analitis yang sangat panjang, atau matematika visual, tabel milik NVIDIA sendiri memberi Anda tiga alasan spesifik untuk menunggu angka independen alih-alih menalar dari materi pemasaran.

Bagaimanapun juga, yang perlu diperhatikan bukanlah postingan vendor lain. Melainkan evaluasi independen pertama yang menjalankan checkpoint NVFP4 terhadap yang BF16 pada harness yang sama, dan skor pihak ketiga pertama yang tidak dikumpulkan melalui NeMo Gym. Sampai semua itu ada, ini adalah model terbuka yang terdokumentasi dengan baik, berlisensi lega, dan benar-benar efisien, yang klaim-klaim terkuatnya sepenuhnya bertumpu pada pengukuran pembuatnya sendiri — dan yang pembuatnya sendiri cukup terbuka untuk mempublikasikan baris-baris tempat model ini kalah.

Kesenjangan antara apa yang diukur oleh papan skor dan apa yang dihadapi oleh suatu deployment adalah alasan catatan ini penting: kegagalan AI dan insiden agen yang terdokumentasi seputar model di kelas ini dikumpulkan dalam OrcaRouter AI Incident Archive, di mana setiap entri mencantumkan sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda disengketakan.