Nemotron 3.5 Super VL Menyamai Inkling Small dengan Bobot Kurang dari Setengahnya

Two models sit on 26 on the Artificial Analysis Intelligence Index this week, and the interesting part is what each one spent to get there. NVIDIA Nemotron 3.5 Super VL is a 120-billion-parameter mixture of experts with 12 billion active. Inkling Small, Thinking Machines' July release, is a 266-billion-parameter mixture of experts with 12 billion active. Same score, same active budget, less than half the weights on disk. Benchmark tables say what a model scores; the incident record says how releases like these fail in production, and those cases are catalogued in the OrcaRouter AI Incident Archive where each entry carries its own sources, severity, confidence grade and disputed flag.

Itulah gambaran minggu lalu dalam open weights Amerika Serikat, dan itu adalah cerita yang lebih baik daripada posting peluncuran yang diterbitkan NVIDIA pada Kamis, 15 Oktober. Pengumuman itu memasangkan Nemotron 3.5 Super VL dengan Nemotron 3.5 Bolt 74B-A9B 24GB — model 74 miliar parameter yang dimampatkan ke dalam memori 24 GB — dan menjanjikan model ketiga, Nemotron 3.5 Bolt E4B 4GB, untuk 23 Oktober. Tiga model dalam delapan hari pada tiga kebutuhan memori bukanlah irama peluncuran; ini adalah argumen portofolio, dan argumennya adalah bahwa kapabilitas per gigabyte kini menjadi angka yang penting.

Apa yang dikirim, dan pada hari apa

Tanggal-tanggalnya perlu dinyatakan secara tepat, karena artefak NVIDIA sendiri berbeda selama tiga hari dan perbedaan itu informatif, bukan skandal.

• Bobot — repositori BF16 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 dibuat di Hugging Face pada 2026-10-12T15:32:06Z, dengan varian NVFP4 24 detik kemudian dan checkpoint dasar sebelum pasca-pelatihan 17 detik sebelum itu.

• Pengumuman — tulisan di newsroom NVIDIA mencantumkan tanggal terbit 15 Oktober 2026. Kolom rilis pada model card itu sendiri berbunyi 10/15/2026 pada versi 1.0 GA.

• Bolt 74B — repositori 24 GB-nya jauh mendahului pengumuman, dibuat pada 7 Oktober, dengan build GGUF muncul di Hub malam itu. Blog tersebut menyajikannya sebagai dirilis bersamaan dengan Super VL pada tanggal 15.

• Bolt E4B — diumumkan untuk 23 Oktober, belum ada bobot pada saat penulisan.

Jadi artefak publik muncul sebelum prosa publik. Siapa pun yang menentukan tanggal peluncuran berdasarkan siaran pers akan terlambat tiga hari untuk model yang sudah dapat diunduh, dan siapa pun yang menentukan tanggalnya dari repositori akan mengutip stempel waktu yang tidak pernah diakui NVIDIA. Keduanya dapat dipertahankan; menulis "dirilis 15 Oktober" tanpa menyebut tanggal 12 adalah versi yang kehilangan informasi.

Skornya adalah bagian yang membosankan. Penyebutnya adalah ceritanya.

Promosi NVIDIA untuk Super VL adalah kecepatan — "hingga 5x throughput lebih cepat dibandingkan model lain di kelasnya," yang diatribusikan ke papan peringkat Artificial Analysis. Klaim tersebut masih sebagian belum terverifikasi, dan bagian di bawah membahasnya. Fakta yang bertahan tentang rilis ini adalah fakta yang berbeda: model ini mencetak skor 26 pada panel yang sama tempat pendahulunya pada Maret, NVIDIA Nemotron 3 Super 120B A12B, meraih 13, dan model ini melakukannya pada ukuran yang secara efektif identik.

• Parameter — total 120B, 12B aktif, 512 pakar yang dirutekan per lapisan MoE. Model Maret adalah 120,6B total dan 12,7B aktif. Ini bukan model yang lebih besar.

• Indeks Kecerdasan — 26 berbanding 13, menurut Artificial Analysis, keduanya ditandai bukan estimasi. Kira-kira dua kali lipat, pada anggaran parameter yang sama.

• Token keluaran per tugas Index — sekitar 49.000 dibandingkan dengan sekitar 114.000. Model baru menyelesaikan evaluasi yang sama dengan sekitar 57% lebih sedikit token, yang merupakan mekanisme di balik sebagian besar lonjakan tersebut: model berhenti berpikir berlebihan.

• Dibandingkan Inkling Small — keduanya 26. Super VL melakukannya dengan total 120B dibandingkan 266B milik Inkling Small, dan keduanya mengaktifkan sekitar 12B per token.

• Dibandingkan dengan Nemotron 3 Ultra 550B A55B — 23. Model ukuran menengah baru NVIDIA mengalahkan model andalannya sendiri berparameter 550 miliar dengan selisih tiga poin, meskipun ukurannya hanya sekitar seperempatnya.

Kedua sumbu efisiensi ini terus-menerus dicampuradukkan, jadi penting untuk memisahkannya. Parameter aktif menentukan berapa biaya untuk menghasilkan sebuah token. Parameter total menentukan berapa biaya untuk menyimpan, memuat, dan menjaga checkpoint tetap residen. Super VL meningkatkan keduanya: parameter aktifnya tetap datar di 12B sementara parameter totalnya kurang lebih dipangkas setengah dibandingkan Inkling Small, dan parameter totalnya tetap datar di 120B sementara skornya kurang lebih digandakan dibandingkan pendahulunya sendiri. Model yang hanya meningkatkan satu sumbu tetap patut dicatat. Model ini melakukan keduanya dalam rilis yang sama.

Bolt adalah bagian yang lebih tenang dari rilis ini, dan tidak memiliki skor independen

Model 24 GB adalah model yang paling mungkin benar-benar dijalankan oleh sebagian besar tim pada perangkat keras yang mereka miliki. Nemotron 3.5 Bolt 74B-A9B 24GB adalah mixture of experts 74 miliar parameter dengan 9 miliar parameter aktif, dikuantisasi menjadi sekitar 2,06 bit per expert selama pelatihan, bukan setelahnya, dengan konteks 262.144 token, dan ketentuan OpenMDW-1.1 yang sama dengan saudara besarnya. Model ini merupakan hibrida Mamba-2 dan Transformer dengan encoder visi C-RADIO v4-H, sehingga menerima teks, gambar, dan video serta menghasilkan teks.

Kartu NVIDIA melaporkan, pada harness miliknya sendiri: GPQA-Diamond 86,43, HLE tanpa alat 25,30, Terminal-Bench 2.1 50,98, SciCode 41,02, BrowseComp 66,75, PinchBench 87,82, dan WebArena vision 50,86. Semua angka itu dijalankan vendor dan belum direproduksi. Pada panel independen, model ini berada di 21 — hasil yang benar-benar kuat untuk sesuatu yang muat pada satu kartu 24 GB, dan juga pengingat untuk berhati-hati dengan tabel vendor, karena 86,43 pada GPQA-Diamond di samping indeks keseluruhan 21 mengundang pembacaan berlebihan terhadap satu baris.

Distribusi unduhan berbicara sendiri: build GGUF dari Bolt telah menarik lebih dari 87.000 unduhan, dibandingkan dengan sekitar 18.700 untuk repositori BF16 Super VL. Model yang dapat dijalankan orang di laptop adalah model yang orang unduh. Itu bukan komentar tentang kualitas; itu komentar tentang untuk apa "bobot terbuka" sebenarnya.

Di mana posisi AS sebenarnya

Keuntungan efisiensi itu nyata, dan klaim kepemimpinannya memerlukan kualifikasi yang tidak diberikan dalam postingan NVIDIA. Di antara model open-weight dari lab AS pada panel independen, Meta Muse Spark Open mencetak skor 39 dan berada di depan semua yang dirilis NVIDIA pekan lalu. Model ini juga dibatasi aksesnya di Hub dengan lisensi komersial khusus, yang menempatkannya dalam kategori adopsi berbeda dari checkpoint yang dapat Anda unduh di bawah OpenMDW-1.1 tanpa meminta izin siapa pun.

• Muse Spark Open — 39, akses terbatas, lisensi khusus.

• Nemotron 3.5 Super VL — 26, tanpa gate, OpenMDW-1.1, total 120B / aktif 12B.

• Inkling Small — 26, permisif, total 266B / 12B aktif.

• Nemotron 3.5 Bolt 74B-A9B — 21, tanpa pembatasan akses, ukuran 24 GB.

• GPT-5.5 Instant — 26, ditutup.

Ranah open-weight Tiongkok masih menjadi percakapan yang berbeda. MiMo-V2.6-Pro berada di angka 46, GLM-5.3 di 45, dan Kimi K3 di 44 pada panel yang sama, sehingga model AS berlisensi permisif terkuat tertinggal sekitar 20 poin dari model Tiongkok terkuat. Jawaban NVIDIA atas kesenjangan itu bukanlah model yang lebih besar — melainkan post-training pada data Anda sendiri, dengan dataset, resep, dan lingkungan reinforcement learning yang dipublikasikan bersama bobotnya. Apakah itu menutup kesenjangan apa pun adalah pertanyaan yang tidak diselesaikan oleh rilis ini, dan siapa pun yang mengklaim sebaliknya sedang membaca niat ke dalam sebuah benchmark.

Apa yang diukur, apa yang diklaim, dan apa yang bergerak minggu ini

Saat peluncuran, klaim throughput 5x tidak didukung apa pun: Artificial Analysis mencantumkan model tersebut tanpa angka kecepatan sama sekali. Itu telah berubah. Panel kini mencatat kecepatan output sekitar 430 token per detik, peringkat pertama dari 28 dalam kumpulan perbandingannya. Jadi sebagian klaim itu kini memiliki pihak kedua: model ini cepat, dan bukan hanya sedikit lebih cepat. Yang masih belum terverifikasi adalah kelipatannya. "5x lebih cepat daripada yang terbaik berikutnya" membutuhkan penyebutan yang terbaik berikutnya dan harness yang sesuai, dan baik postingan blog maupun kartu model tidak menyediakannya.

Gambaran harga juga ikut bergerak, dan pergerakannya lebih penting daripada angka utama.

• Median antarpenyedia — $0.225 per juta token input dan $0.575 per juta token output, dengan diskon cache 78%, menurut Artificial Analysis.

• Rentang di antara penyedia yang memublikasikan tarif — input dari {{1}}$0.10{{/1}} hingga {{2}}$0.20{{/2}}, output dari {{3}}$0.40{{/3}} hingga {{4}}$0.50{{/4}} untuk checkpoint yang sama.

• Biaya per tugas Index — $0.19, di sinilah harga rendah dan jumlah token yang tinggi bertemu.

• Verbositas — 170 juta token keluaran terpakai sepanjang proses Index dengan median 100 juta, ditandai sebagai agak bertele-tele. Keluaran murah ditambah keluaran panjang tidak otomatis menjadi murah.

Selisih 2x pada harga input untuk bobot yang identik adalah temuan praktis minggu ini. Modelnya adalah file yang sama di mana-mana; pengukurnya tidak. Itu argumen untuk memperlakukan pilihan penyedia sebagai keputusan routing, bukan keputusan pengadaan — yang kebetulan merupakan bagian dari cerita ini yang ditangani produk kami sendiri, dan versi jujur dari klaim itu sempit. Nemotron 3.5 Super VL tidak ada di katalog kami: daftar model OrcaRouter mengembalikan sedikit lebih dari 200 ID model dan tidak ada entri NVIDIA hari ini. Yang membuat router bernilai di sini adalah bahwa begitu sebuah checkpoint benar-benar tersedia, ia tersedia pada harga daftar penyedia dengan markup 0%, dan model yang begitu baru dapat berada di belakang failover otomatis alih-alih di akar jalur produksi. Tidak satu pun dari itu merupakan alasan untuk membeli model tersebut. Itu adalah alasan untuk tidak menandatangani kontrak untuk mencobanya.

Tiga hal yang perlu diperhatikan, dan salah satunya tinggal sembilan hari lagi

Yang pertama adalah Bolt E4B pada 23 Oktober. Model visi-bahasa 4 GB yang skornya mendekati versi 24 GB-nya akan menjadi rilis yang lebih berdampak di antara ketiganya, karena itu mengubah perangkat keras seperti apa yang dianggap memadai.

Yang kedua adalah evaluasi independen terhadap checkpoint terkuantisasi. Setiap angka dalam artikel ini yang berasal dari NVIDIA diukur pada build presisi penuh atau harness vendor. File NVFP4 adalah yang paling banyak orang akan benar-benar serve, dan file ini tidak memiliki skor pihak ketiga yang dipublikasikan. Klaim NVIDIA sendiri adalah pemulihan akurasi median 99,62% terhadap BF16 — angka vendor, pada harness vendor, dan angka tak terverifikasi yang paling menopang dalam rilis ini.

Yang ketiga adalah apakah selisih harga menyempit. Kesenjangan 2x antara server termurah dan termahal untuk satu checkpoint terbuka adalah pasar yang belum stabil, dan arah yang diambilnya akan lebih banyak menjelaskan tentang enam bulan mendatang inferensi open-weight daripada satu baris benchmark mana pun.

Skornya adalah sorotan utama. Checkpoint berukuran setengah dengan anggaran aktif yang sama adalah hal yang masih akan tetap penting dalam setahun.