
NVIDIA Nemotron 3.5 Super VL Base BF16: checkpoint 249 GB yang dicantumkan NVIDIA tetapi tidak pernah ditautkan
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 247 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 104 tok/s
- orcaBARUOrca: OrcaC2 1.02026-11-0722 tok/s
- OrcaBARUOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 138 tok/s
- OrcaBARUOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 413 tok/s
- OrcaBARUOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 per 1 juta token · 43 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 57 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 98 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 40 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 165 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 106 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Kecerdasan
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Kecerdasan
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 per 1 juta token · 69 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Kecerdasan
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Kecerdasan
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 per 1 juta token · 414 tok/s
nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 adalah artefak dalam rilis NVIDIA Nemotron 3.5 Super VL yang tidak pernah ditautkan oleh NVIDIA. Postingan pengumuman perusahaan pada 15 Oktober menyatakan, dalam satu klausa, bahwa "rilis tersebut mencakup checkpoint base, pasca-pelatihan, dan terkuantisasi NVFP4 dengan resep pelatihan, data, dan lingkungan pembelajaran penguatan." Setiap tautan repositori di halaman itu mengarah ke nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4. String "Base-BF16" tidak muncul sama sekali dalam postingan tersebut.
Repositori ini nyata dan publik. Hugging Face mencatat commit pertamanya pada 2026-10-12T15:31:49Z, shard bobotnya diunggah pada 2026-10-13T04:55Z, dan kolom tanggal rilis pada kartu modelnya sendiri bertuliskan "Hugging Face - 10/15/2026". Repositori ini tidak dibatasi, tidak memerlukan token untuk diunduh, dan bobotnya persis sama dengan bobot build pasca-training milik nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 yang berbobot 248,9 GB di 63 shard BF16, dibandingkan 248,9 GB di 64 shard pada build pasca-training, dengan kedua file indeksnya terpaut 16 byte. Tiga hari setelah bobot itu tiba, repositori ini telah diunduh 4 kali, dibandingkan 142 kali untuk repositori presisi penuh pasca-training dan 81 kali untuk repositori NVFP4 sejenis. Itu adalah penghitung milik Hugging Face sendiri, yang dibaca pada 16 Oktober.
Jadi ini bukan kebocoran atau rumor. Bobot adalah hal yang salah untuk dijadikan objek kekeliruan — bobot hanyalah artefak yang paling sedikit dipublikasikan dalam sebuah rilis yang selain itu ramai, dan kartu model di baliknya bertentangan dengan dirinya sendiri dengan cara yang penting jika Anda adalah tipe orang yang akan mengunduh checkpoint pre-post-training 249 GB. Kontradiksi itu ada di bawah ini.
Apa yang mendarat, dan kalimat yang menyebutkannya
Tiga repositori utama dan satu drafter dirilis dalam rentang waktu yang sama, semuanya pihak pertama NVIDIA, semuanya di bawah lisensi OpenMDW-1.1, tidak ada yang dibatasi aksesnya:
• Base BF16 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16, repositori dibuat 2026-10-12T15:31:49Z, bobot 2026-10-13T04:55Z, README terakhir disentuh 2026-10-15T15:22:08Z.
• BF16 pasca-pelatihan — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, dibuat 2026-10-12T15:32:06Z, tujuh belas detik setelah repo dasar.
• NVFP4 pasca-pelatihan — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4, dibuat 2026-10-12T15:32:30Z, dan totalnya 75,1 GB, bukan 248,9 GB.
• Drafter NVFP4 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, yang dibuat sehari lebih awal lagi, pada 2026-10-11T20:20:59Z.
Pemetaan antara repositori-repositori itu dan prosa NVIDIA adalah bagian yang tidak merata, dan memeriksanya layak dilakukan alih-alih mengasumsikannya. Tautan jangkar penerapan dalam pengumuman tersebut semuanya mengarah ke build NVFP4. Catatan pembuka pada kartu base itu sendiri mengarah ke luar, ke dua rilis lainnya — "Mencari model pasca-pelatihan? Lihat rilis BF16 untuk kustomisasi atau rilis NVFP4 untuk penerapan yang dioptimalkan" — jadi repositori base akan memberi tahu Anda ke mana harus pergi sebagai gantinya, pada baris pertamanya. Hal sebaliknya tidak berlaku. Kartu BF16 pasca-pelatihan tidak memuat tautan ke repositori base di mana pun, dan kartu NVFP4 juga tidak. Checkpoint base adalah satu-satunya artefak dalam rilis ini yang dokumentasi NVIDIA sendiri tidak pernah mengarahkan Anda padanya; Anda menemukannya dengan membaca klausa sembilan kata dalam pengumuman tersebut lalu menelusuri daftar berkas organisasi, yang merupakan cara ia ditemukan di sini. Tidak ada apa pun dalam materi NVIDIA yang menjelaskan mengapa checkpoint base diterbitkan pada 249 GB yang sama dengan model yang sebenarnya pasca-pelatihan, atau apa yang seharusnya Anda lakukan dengannya yang tidak dapat dilakukan oleh versi pasca-pelatihan.
Ketiadaan itu justru inti ceritanya. Rilis open-weights yang di dalamnya vendor menautkan dua dari tiga checkpoint dan menggambarkan yang ketiga dalam sembilan kata tidak menyembunyikan apa pun — bobotnya ada di sana — tetapi itu memang berarti dokumentasi yang Anda butuhkan tidak ada dalam pengumuman. Dokumentasi itu ada di repositori.

Apa arti "base" dalam rilis ini
Kedua kartu model menjawab pertanyaan ini, dan perbedaan di antara keduanya memberikan gambaran yang jelas tentang apa yang diperoleh dari pasca-pelatihan di sini.
Kartu dasar mendokumentasikan tiga tahap pelatihan. Tahap 1 membangun tulang punggung bahasa di atas Nemotron 3 Super Base dan melatih head MTP bersama untuk 100B token terhadap tulang punggung yang dibekukan, lalu melakukan distilasi selama 1T token dari Nemotron 3 Ultra Base. Tahap 2 adalah 100B token pra-pelatihan lanjutan Indic, ekstensi 35B token ke konteks 1M, 67B token pelatihan menengah rekayasa perangkat lunak pada konteks 256K, dan tahap pemulihan konteks panjang 9B token. Tahap 3 memasang encoder visi C-RADIO dan konektor visi-bahasa.
Kartu pasca-pelatihan mendokumentasikan enam tahap, dan tiga yang tidak dimiliki kartu dasar adalah tiga yang membuat model dapat digunakan: Tahap 4 penyetelan halus terawasi pada data visi, penalaran, kode, alat, obrolan, keamanan, dan konteks panjang, menggunakan urutan terpaket hingga 524.288 token; Tahap 5, pembelajaran penguatan dengan imbalan yang dapat diverifikasi plus RLHF plus distilasi on-policy multi-guru; dan Tahap 6, meningkatkan head MTP terhadap backbone pasca-pelatihan yang dibekukan agar decoding spekulatif benar-benar membuahkan hasil.
Kartu dasar itu sendiri mengatakan demikian, di bagian Inferensi: "Model Base ditujukan sebagai titik awal untuk pelatihan lebih lanjut. Untuk aplikasi obrolan, penalaran, dan pemanggilan alat, gunakan rilis BF16 atau NVFP4 pasca-pelatihan beserta petunjuk penerapannya." Kasus penggunaan yang dinyatakan adalah "pengembang dan peneliti yang membangun model visi-bahasa khusus melalui pra-pelatihan lanjutan, penyempurnaan terawasi, pembelajaran penguatan, dan distilasi."
Itu adalah penafian yang luar biasa lugas, dan itulah pembacaan yang benar atas artefak ini. Apa yang dirilis sebagai "base" di sini bukanlah model obrolan yang lebih lemah. Itu adalah substrat yang menjadi dasar dijalankannya Stage 4 hingga Stage 6, diterbitkan bersama tahap-tahap itu agar orang lain dapat menjalankan Stage 4 hingga 6 yang berbeda — dengan data mereka sendiri, di bawah ketentuan lisensi mereka sendiri, tanpa menjalankan ulang pra-pelatihan 20 triliun token.
Klaim 1M token yang tidak didukung oleh konfigurasi tersebut
Inilah ketidaksesuaian yang layak mendapatkan 249 GB perhatian Anda.
Kartu model dasar menyatakan, dalam Deskripsinya, bahwa model "mendukung panjang konteks hingga 1 juta token", dan mengulanginya di bagian Desain Model: "Model ini mendukung hingga 1 juta token konteks." Metodologi pelatihan mendukung maksud tersebut — Tahap 2 secara eksplisit mencakup "perluasan 35B token ke konteks 1 juta, diikuti oleh tahap pemulihan konteks panjang 9B token."
yang dirilisconfig.json mengatakan hal yang berbeda. Nilai max_position_embeddings adalah 262,144 — 256K, bukan 1M. Tidak ada rope_scaling blok dan tidak ada original_max_position_embeddings bidang, jadi skema posisinya juga tidak mendeklarasikan ekstensi. Konfigurasi repositori pasca-pelatihan, sebaliknya, mendeklarasikan max_position_embeddings sebesar 1,048,576. Dua checkpoint bersaudara, string arsitektur yang sama, tata letak lapisan yang sama, dan perbedaan empat kali lipat dalam batas posisi yang tidak disebutkan oleh prosa kartu dasar.
Bacalah ketiga fakta itu secara bersamaan dan kesimpulan yang paling dapat dipertahankan bukanlah bahwa model dasar tersebut berkonteks pendek. Kesimpulannya adalah bahwa repositori dasar menyertakan batas yang dideklarasikan secara konservatif dan mengharapkan Anda mengubahnya. Ekstensi 1M telah dilatih. Konfigurasi yang dipublikasikan tidak mengeksposnya. Jika rencana pra-pelatihan lanjutan Anda mengasumsikan panjang urutan 1M token langsung dari awal, asumsi itu berasal dari kartu, bukan dari berkas yang sebenarnya akan dibaca oleh runtime — dan solusinya adalah penyuntingan konfigurasi yang harus Anda ketahui untuk dilakukan.

Patut dicatat karena alasan yang sama: tabel Ringkasan Model di kartu dasar sama sekali tidak ada. Kartu pasca-pelatihan memuatnya — jumlah parameter total, arsitektur, presisi, panjang konteks, target deployment, decoding spekulatif, mode penalaran, sampling yang direkomendasikan, terbaik untuk, lisensi. Kartu dasar langsung dari Deskripsi ke Lisensi, lalu ke tabel benchmark. Tidak ada baris sampling yang direkomendasikan di mana pun, dan tidak ada baris deployment, jadi tidak ada apa pun di kartu dasar yang memberi tahu Anda perangkat keras apa yang diinginkannya.
Arsitektur, dibaca dari konfigurasi yang dikirim
Karena deskripsi vendor tentang arsitektur dasar hanyalah satu paragraf dan bentuk sebenarnya ada di dalam file, inilah yang dikatakan file tersebut. Semuanya berasal langsung dari config.json di repositori dasar, bukan dari ringkasan apa pun.
• Kedalaman dan komposisi — 88 blok di tulang punggung bahasa. 40 adalah lapisan Mamba-2, 40 adalah lapisan mixture-of-experts, dan 8 adalah lapisan attention penuh, pada indeks 7, 16, 25, 36, 47, 58, 69, dan 78. Satu blok attention kira-kira setiap sembilan lapisan merupakan keseluruhan mekanisme konteks panjang.
• MoE — 512 pakar yang dirutekan per lapisan MoE, 22 dipilih per token, satu pakar bersama, ukuran laten 1024, dan ukuran perantara pakar bersama 5376 terhadap 2688 untuk pakar yang dirutekan. Itulah aritmetika di balik judul "120B total, 12B aktif".
• Atensi — 32 head query terhadap 2 head key-value pada dimensi head 128, sehingga atensi grouped-query dengan rasio 16:1. Ukuran hidden 4096.
• MTP — satu lapisan prediksi token berikutnya, yang tersusun dari blok attention dan blok MoE, dengan gaya kepala prediksi multi-token DeepSeek. Satu langkah prediksi, bukan beberapa.
• Visi — menara C-RADIO ViT-H: 32 lapisan, ukuran tersembunyi 1280, 16 head, ukuran patch 16, 7 token register, 3 token kelas, ukuran gambar maksimum 2048 dan anggaran patch antara 1024 dan 13312. Konektor memproyeksikan ke 20.480, lalu rasio downsample 0,5 dan ukuran gambar yang dipaksakan 512 menarik kembali jumlah token.
• Video — ukuran patch temporal 2 dan laju pemangkasan yang dideklarasikan sebesar 0,7.
• Dua keanehan — konfigurasi mendeklarasikan token konteks <audio> sementara sound_config-nya null, jadi infrastruktur untuk audio ada dalam arsitektur ini dan checkpoint ini tidak membawa satu pun dari itu. Dan tie_word_embeddings bernilai false, yang merupakan standar untuk model sebesar ini dan perlu diketahui jika Anda berencana mengubah ukuran kosakata.
Sebagai gambaran skala: metadata safetensors milik repositori itu sendiri berjumlah total 124.453.395.974 parameter, dihitung byte per byte tensor, dibandingkan dengan angka utama NVIDIA 120B-total / 12B-active. Kedua angka tersebut dilaporkan atas dasar yang berbeda — angka vendor adalah aritmetika routed-plus-shared model bahasa, angka file adalah semua yang tersimpan di repositori, termasuk vision tower dan MTP head. Jangan menganggap selisih itu sebagai ketidaksesuaian; anggarkan saja untuk file tersebut.
Apa yang sebenarnya diukur oleh tabel benchmark
Kartu dasar ini mempublikasikan 24 baris benchmark dan, sebagai kredit untuk NVIDIA, sebuah kolom yang menyatakan apa masing-masingnya:
• MMLU 84.14 kecocokan persis · MMLU-Pro 76.25 · AGIEval-En 75.65 CoT · SuperGPQA 47.65 CoT · GPQA Diamond 66.16 pada 5-shot CoT kecocokan persis
• GSM8K 91,74 pada 8-shot CoT · Minerva MATH 87,66 · MATH-500 81,56 pass@1 sampel n=32 · HumanEval 81,31 EvalPlus tersanitasi · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete dan 49,39 instruct
• ARC-Challenge 95,99 · HellaSwag 88,96 · TruthfulQA MC2 71,18 · WinoGrande 79,08 · PIQA 85,09 · CommonsenseQA 85,26 · OpenBookQA 48,80 · SocialIQA 49,03 · RACE 91,39
• Global MMLU 86,56 dirata-ratakan pada 8 bahasa · MGSM 87,53 dengan CoT native 8-shot pada 6 bahasa
Ada dua hal tentang tabel itu yang mudah terlewatkan, dan keduanya penting.
Pertama, kalimat pembingkai kartu itu sendiri menyatakan bahwa hasilnya "mengevaluasi backbone dasar khusus teks Nemotron 3.5 Super, sebelum pelatihan visi-bahasa." Apa pun makna lainnya, ini berarti angka-angka tersebut bukan kartu skor multimodal — tidak ada tolok ukur OCR, tidak ada baris pemahaman dokumen, tidak ada baris video di mana pun pada kartu dasar, meskipun input video dan dokumen dijelaskan dua bagian sebelumnya. Jika alasan Anda menginginkan checkpoint dasar adalah menara visinya, kartu ini tidak memberi Anda apa pun yang empiris untuk dijadikan dasar perencanaan.
Kedua, tabel tersebut tidak memiliki kolom baseline. Tabel pada kartu pasca-pelatihan membentang selebar tujuh kolom — Nemotron 3.5 Super GA dibandingkan dengan Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, Nemotron 3 Ultra, Inkling-Small, dan GLM-5.3-Flash. Kartu dasar memiliki tepat satu kolom. Dan campuran dari apa yang dijalankan pun berbicara banyak: kartu pasca-pelatihan sepenuhnya menghilangkan MMLU demi MMLU-ProX, sementara kartu dasar menjalankan MMLU dan MMLU-Pro sekaligus, serta tidak menjalankan MMLU-ProX maupun rangkaian agentic dan tingkat harness yang diandalkan kartu pasca-pelatihan. Anda tidak dapat menjawab "apakah base ini lebih baik daripada base itu" dari kartu tersebut. Anda harus menjalankan keduanya.
Setiap angka di atas adalah milik NVIDIA, dihasilkan melalui harness NeMo Gym milik NVIDIA sendiri — kartu pasca-pelatihan menyatakannya secara eksplisit, dan kartu dasar sama sekali tidak menerbitkan catatan harness. Tidak ada apa pun di kedua tabel yang telah direproduksi secara independen.
Base versus pasca-pelatihan, dalam satu-satunya tolok ukur yang mereka miliki bersama
Kedua kartu tersebut tidak memiliki tabel benchmark yang sama, tetapi keduanya memiliki tepat satu baris yang dapat Anda bandingkan secara berdampingan, dan baris itulah yang paling penting.
• GPQA Diamond — 66,16 pada kartu dasar, dengan exact match chain-of-thought 5-shot. 89,52 pada kartu pasca-pelatihan. Selisih 23,36 poin, dari dua dokumen NVIDIA sendiri, dengan angka dasar secara eksplisit dilabeli sebagai backbone khusus teks.

Itulah headline yang jujur untuk nilai Tahap 4 hingga 6 pada penalaran sains tingkat pascasarjana: pasca-pelatihan bukan sekadar pemolesan pada model ini, melainkan sekitar setengah kapabilitas lagi. Ini juga memberi tahu Anda arah pertukarannya. Jika rencana Anda adalah melakukan pasca-pelatihan pada base checkpoint sendiri, Anda memulai 23 poin di belakang model yang dijual NVIDIA dan bertaruh bahwa data serta sinyal reward Anda menutup kesenjangan itu di domain Anda — yang persis merupakan taruhan yang digambarkan oleh angka pelanggan NVIDIA sendiri: Scale AI melaporkan pengurangan biaya inferensi 40x untuk pemrosesan kredit vendor, Ramp mengharapkan throughput hingga 50% lebih tinggi dan latensi 10x lebih rendah untuk ekstraksi receipt-to-JSON. Itu adalah hasil yang dinyatakan vendor dan pelanggan tanpa pengukuran independen, dan itu satu-satunya bukti yang dipublikasikan bahwa menutup kesenjangan tersebut dapat dicapai.
Perhatikan jebakan saat membaca kedua kartu bersama-sama. "MMLU-Pro" pada kartu dasar di angka 76,25 dan "MMLU-ProX" pada kartu pasca-pelatihan di angka 76,91 tampak seperti selisih 0,66 poin dan tidak dapat dibandingkan — tolok ukur yang berbeda, salah satunya dengan metode ekstraksi TigerLab yang disebutkan. "MMLU" pada kartu dasar di angka 84,14 tidak memiliki padanan sama sekali di kartu pasca-pelatihan. Jika Anda menginginkan delta dengan tolok ukur yang sama, GPQA Diamond adalah yang Anda dapatkan, dan LiveCodeBench adalah yang tidak: kartu dasar melaporkan CodeGen di angka 47,61 sementara kartu pasca-pelatihan melaporkan LiveCodeBench v6 di angka 88,22, yang merupakan versi berbeda dari keluarga tolok ukur yang sama dan bukan sebuah delta.
Apa yang bisa didapat dengan 249 GB, dan apa yang tidak
Unduhannya sendiri adalah satu perintah, dan itu satu-satunya perintah di seluruh kartu model dasar:
• hf download nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16
Itu adalah keseluruhan Quick Start. Kartu dasar berisi satu blok kode; kartu pasca-pelatihan berisi dua puluh dua. Tidak ada vllm serve baris, tidak ada peluncuran SGLang, tidak ada panduan tensor-paralel, tidak ada --max-num-seqs, tidak ada flag reasoning-parser, tidak ada konfigurasi MTP untuk speculative decoding, dan tidak ada contoh klien API. Kartu pasca-pelatihan memuat semuanya, termasuk resep 4×H100 dengan --enable-mamba-shared-prefix-checkpoint dan resep 2×GB200 pada TP2.
• Mesin runtime — kartu dasar menyebutkan PyTorch, Megatron-LM, dan NeMo, sedangkan bagian Inference-nya hanya menyebutkan PyTorch. Kartu pasca-pelatihan menyebutkan vLLM dan SGLang. Itu adalah nama kerangka kerja pelatihan di satu sisi dan nama runtime penyajian di sisi lain, dan pemisahan itu disengaja, bukan kebetulan.
• Uji perangkat keras — Hopper H100 dan H200, Grace Blackwell GB200 dan GB300, Blackwell B200 dan B300. Kartu pasca-pelatihan menyempit menjadi 4×H100 atau 2×GB200 untuk penerapan.
• Disk — 248,9 GB dalam 63 shard, sama dengan build presisi penuh pasca-pelatihan. Varian NVFP4 adalah 75,1 GB. Jika Anda mengunduh basisnya untuk memeriksa atau mengadaptasinya, bukan untuk menjalankannya, Anda membayar 3,3 kali ukuran unduhan NVFP4 demi keistimewaan tidak mendapatkan resep penyajian.
Yang benar-benar Anda dapatkan dan memang dapat digunakan: repositori ini menyertakan chat_template.jinja lengkap berukuran 12.513 byte, dan di dalamnya terdapat sakelar enable_thinking, termasuk varian medium-effort. Repositori ini juga menyertakan generation_config.json dengan temperature 1.0, top_p 0.95 dan do_sample true. Membandingkan template tersebut dengan template pasca-pelatihan menghasilkan perbedaan 414 byte, semuanya berupa penanganan spasi di sekitar placeholder gambar dan video — kedua template tersebut selebihnya adalah file yang sama.
Jadi infrastruktur untuk berbicara dengan checkpoint dasar sebagai model chat sudah ada dan hampir identik dengan model chat yang dirilis. Yang tidak ada adalah pernyataan apa pun bahwa Anda seharusnya melakukannya. Tidak ada baris recommended-sampling di kartu dasar, tidak ada baris mode penalaran, dan tidak ada benchmark untuk itu dalam konfigurasi chat. Anda dapat melayaninya sebagai model chat dalam sekitar sepuluh menit. Apakah outputnya layak keluar dari test harness adalah pertanyaan yang berbeda, dan jawaban kartu itu adalah tidak.
Pengungkapan korpus yang tidak dibicarakan siapa pun
Berikut adalah bagian dari rilis dasar yang bisa dibilang lebih berguna daripada bobotnya, dan hampir tidak mendapat perhatian karena tersimpan dalam tabel di sebuah repo yang tidak pernah ditautkan.
Kartu dasar memublikasikan korpus pelatihan secara terperinci yang tidak dimuat oleh kartu pasca-pelatihan: korpus fondasi lebih dari 20 triliun token yang dikumpulkan antara 2013 dan Desember 2025, dirinci menurut sumber — Nemotron-CC-v2 dan v2.1 sebesar 9,1T, Nemotron-CC-Code-v1 sebesar 427,9B, set Nemotron-Pretraining-Code total 1,7T, Nemotron-CC-Math-v1 sebesar 133,3B, set sintetis khusus dan SFT sebesar 660B, dan set hukum sebesar 4,3B. Bahasa Inggris, 19 bahasa lisan lainnya, 43 bahasa pemrograman.
Lalu dua tabel yang sebagian besar rilisan open-weights sama sekali tidak mempublikasikan. Salah satunya mencantumkan kumpulan data privat yang tidak dapat diakses publik milik pihak ketiga, dan menyebutkan model-model yang menghasilkan labelnya — Qwen3.5-122B-A10B di berbagai tugas pelabelan ulang OCR dan visual-question-answering, DeepSeek-OCR pada subset OCR Tionghoa yang difilter, Qwen3.5 pada subset yang terverifikasi benar, Gemini 3 dan GPT-5 pada data RL untuk pencarian. Tabel lainnya mencantumkan kumpulan data privat milik NVIDIA sendiri, dan sekali lagi menyebutkan generatornya: Kimi K3 untuk data SFT chain-of-thought matematika, DeepSeek-V4-Pro untuk OCR competitive-coding, gpt-oss-120b untuk RL structured-output, GLM-5.2 untuk penyempurnaan, MiniMax-M2 untuk penelusuran graf pencarian, dan ekor panjang lainnya.
Lalu ada dua tabel yang sebagian besar rilis open-weights sama sekali tidak mempublikasikan. Salah satunya mencantumkan kumpulan data privat yang tidak dapat diakses publik dan dimiliki oleh pihak ketiga, dan menyebutkan model-model yang menghasilkan labelnya — Qwen3.5-122B-A10B pada berbagai tugas pelabelan ulang OCR dan visual-question-answering, DeepSeek-OCR pada subset OCR bahasa Tionghoa yang telah difilter, Qwen3.5 pada subset yang terverifikasi benar, Gemini 3 dan GPT-5 pada data RL untuk pencarian. Tabel lainnya mencantumkan kumpulan data privat milik NVIDIA sendiri, dan sekali lagi menyebutkan para penghasilnya: Kimi K3 untuk data SFT chain-of-thought matematika, DeepSeek-V4-Pro untuk OCR pemrograman kompetitif, gpt-oss-120b untuk RL keluaran terstruktur, GLM-5.2 untuk penyempurnaan, MiniMax-M2 untuk penelusuran graf pencarian, dan masih banyak lagi lainnya. Tabel-tabel berpasangan ini menjadi pengingat tentang bagaimana industri ini sebenarnya bekerja — sinyal pelatihan sebuah model frontier secara rutin mencakup keluaran dari model-model pesaingnya, dan NVIDIA adalah salah satu dari sedikit sekali laboratorium yang mau menyebutkan yang mana dan untuk apa.
Repositori ini juga menyertakan Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf, yang ditambahkan pada 15 Oktober, yaitu pengungkapan konten pelatihan untuk UE. Campuran mid-training diungkapkan pada tingkat perincian yang sama, dan satu barisnya relevan secara langsung jika Anda berniat melakukan fine-tuning untuk pekerjaan perangkat lunak: tahap rekayasa perangkat lunak 67B token terdiri dari 20% repositori utuh, 41% pasangan issue dan pull request, 3% diff commit, 1% log build dan CI, 10% jejak agen, 20% replay pra-pelatihan dan 5% data konteks panjang, serta sumber-sumbernya didekontaminasi terhadap repositori SWE-bench dan Terminal-Bench. Pernyataan dekontaminasi itu adalah satu-satunya baris dalam kartu yang memberi tahu Anda seberapa bernilai skor pada salah satu benchmark tersebut.
Lisensi, dan untuk siapa checkpoint dasar itu
OpenMDW-1.1, lisensi yang sama dengan build yang telah melalui post-training, dengan kartu model yang menyatakan secara gamblang: "Model ini siap untuk penggunaan komersial maupun non-komersial." Repositori ini tidak dibatasi dan tidak diperlukan token Hugging Face untuk mengunduhnya, meskipun resep kontainer NVIDIA sendiri di bagian lain keluarga ini mengasumsikan adanya token tersebut.
Letakkan lisensi di samping kasus penggunaan, dan audiens yang dituju tidak ambigu. Tidak ada yang mengunduh checkpoint pra-pasca-pelatihan berukuran 249 GB untuk menghemat biaya inferensi — build NVFP4 3,3 kali lebih kecil, lebih cepat, dan unggul 23 poin pada GPQA Diamond. Checkpoint dasar ditujukan untuk tim yang berniat menguasai tahap pasca-pelatihan: domain yang berbeda, sinyal reward yang berbeda, atau kebijakan data yang berbeda dari yang dijalankan NVIDIA. Di bawah OpenMDW-1.1 dengan penggunaan komersial diizinkan dan bobot tidak dibatasi, itu adalah hal yang sah untuk dijadikan dasar membangun produk, dan justru itulah sebabnya dokumentasi yang tidak ada menimbulkan biaya.
Dan ada baiknya memisahkan dua jenis pembaca di sini. Jika pertanyaan Anda adalah "apa yang harus saya panggil minggu ini untuk penguraian dokumen atau pemahaman video," checkpoint dasar bukanlah jawaban Anda dan tidak pernah menjadi jawabannya; model pascapelatihanlah jawabannya, dan pertanyaan terbuka di sana adalah verifikasi benchmark, bukan ketersediaan. Jika pertanyaan Anda adalah "bisakah saya mendapatkan backbone visi-bahasa hibrida Mamba-MoE kelas 120B dengan lisensi permisif sebagai titik awal untuk proses pelatihan saya sendiri," maka repositori ini adalah jawabannya dan repositori ini telah dibiarkan tanpa tautan sejak 12 Oktober.
Jika Anda akan mengevaluasinya
Kesalahan mahal dengan checkpoint seperti ini adalah menganggap pengunduhan sebagai tesnya. Bukan itu: 249 GB, 63 shard, dan pengeditan konfigurasi sebelum forward pass pertama tidak memberi tahu Anda apa pun tentang apakah vision tower itu dapat ditransfer ke kelas dokumen Anda.
Uji yang murah adalah menetapkan pertanyaan kemampuan pada model yang sudah disajikan terlebih dahulu, dan baru setelah itu menghabiskan ruang disk. Gateway perutean berguna untuk itu dan bukan untuk hal lain dalam keputusan ini — satu kunci dan satu endpoint untuk beberapa ratus model pada harga daftar penyedia dengan markup 0% yang diteruskan berarti Anda dapat mengadu build Nemotron 3.5 Super VL pasca-pelatihan dengan model visi apa pun yang sudah Anda gunakan, pada gambar Anda sendiri, dalam satu sore dan dengan biaya token. Failover otomatis antar penyedia penting di sini karena alasan yang sempit: proses evaluasi yang mati pada permintaan ke-4.000 dari 5.000 membuat Anda kehilangan seluruh proses, dan gateway yang mencoba ulang di tempat lain saat terjadi error penyedia adalah perbedaan antara satu sore dan dua sore.
Untuk berterus terang tentang satu hal yang jika tidak akan ambigu: NVIDIA Nemotron 3.5 Super VL tidak ada di katalog kami. Kami tidak menyediakan model ini saat ini, dan khususnya base checkpoint bukanlah sesuatu yang kemungkinan besar akan disediakan oleh endpoint terkelola sama sekali, karena base checkpoint bukan produk inferensi. Yang diberikan gateway kepada Anda adalah separuh eksperimen yang murah — perbandingan yang memberi tahu Anda apakah membayar 249 GB itu sepadan.
Apa yang masih belum ditetapkan
Empat hal, dinyatakan sebagai kesenjangan dan bukan risiko.
• Batas konteks mana yang nyata. Kartu menyebut 1M, konfigurasi yang dikirimkan mendeklarasikan 262.144, dan deskripsi pelatihan menyebut ekstensi 1M telah dijalankan. Tidak ada pernyataan yang dipublikasikan yang menyelesaikan ketiganya. Siapa pun yang merencanakan proses continued-pretraining konteks panjang harus memperlakukan nilai konfigurasi sebagai default dan memverifikasi terhadap runtime mereka, bukan pada kartu.
• Apa yang dapat dilakukan menara visi. Kartu dasar tidak mempublikasikan evaluasi multimodal dalam bentuk apa pun. Tidak ada OCR, tidak ada dokumen, tidak ada bagan, tidak ada baris video — untuk satu-satunya checkpoint di keluarga ini yang seluruh tujuannya adalah untuk disetel secara halus pada modalitas tersebut. Itulah celah terbesar dalam bukti yang dipublikasikan.
• Bagaimana base ini dibandingkan dengan apa pun.Tabel benchmark satu kolom, tanpa baseline, tanpa catatan harness. Angka 66,16 GPQA Diamond dapat direproduksi secara prinsip melalui NeMo Gym dan belum pernah direproduksi oleh siapa pun di luar NVIDIA.
• Apakah base menyertakan resep deployment 1M di mana pun. Kartu post-trained memuat perintah peluncuran 4×H100 dan 2×GB200 untuk jendela penuh. Kartu base memuat satu hf download. Tidak jelas apakah itu celah dokumentasi atau pernyataan bahwa melayani base pada 1M bukanlah sesuatu yang NVIDIA berniat untuk dukung.
Tidak ada dari semua itu yang membuat rilis ini jadi kurang menarik. Justru itu menjadikan checkpoint dasar sebagai artefak yang paling minim dokumentasinya di keluarga ini dan, bagi jenis tim yang sempit dan spesifik, sebagai yang paling berguna — perbedaannya terletak pada apakah langkah berikutnya adalah panggilan API atau proses pelatihan.
Untuk model yang mode kegagalannya masih belum terdokumentasi, padanan yang berguna adalah catatan tentang apa yang sudah pernah gagal di tempat lain: insiden AI dan kegagalan agen yang terdokumentasi pada model di kelas ini dihimpun dalam the OrcaRouter AI Incident Archive, di mana setiap entri memuat sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda status disengketakan.
