
NVIDIA Nemotron 3.5 Lightning 30B A3B: Andalan Agen Terbuka Nvidia, Dijelaskan
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 89 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 97 tok/s
- orcaBARUOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaBARUOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 88 tok/s
- OrcaBARUOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 133 tok/s
- OrcaBARUOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 per 1 juta token · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 123 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Kecerdasan
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Kecerdasan
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 per 1 juta token · 138 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Kecerdasan
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Kecerdasan
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 per 1 juta token · 189 tok/s
Nvidia mengumumkan Nemotron 3.5 Lightning pada 11 Agustus 2026, dan menyertainya dengan sesuatu yang jarang disertakan dalam peluncuran model: sebuah router. NeMo Switchyard, sebuah pustaka sumber terbuka yang memutuskan model mana yang harus menangani panggilan berikutnya di dalam loop agen, hadir pada hari yang sama dengan model mixture-of-experts dengan 30 miliar parameter, namun hanya 3 miliar parameter aktif — justru itulah intinya. Penjelasan ini membahas checkpoint yang pertama kali dirilis Nvidia,NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, yaitu model dasar pre-trained yang masih mentah, bukan referensi chat-tuned, serta apa yang disampaikan keluarga model ini secara keseluruhan tentang arah penyajian model terbuka.
Satu catatan sumber sebelum angka-angkanya: setiap tolok ukur, klaim kecepatan, dan angka mitra dalam tulisan ini adalah milik Nvidia sendiri, dan belum ada satu pun yang direproduksi secara independen — modelnya baru berumur beberapa jam. Perlakukan angka kinerja tersebut sebagai kartu vendor: informatif dan memberikan arah, belum menjadi papan skor.
Apa sebenarnya Nemotron 3.5 Lightning itu
Nemotron 3.5 Lightning adalah anggota terbaru dan terkecil dari keluarga terbuka Nemotron 3 milik Nvidia. Model ini merupakan MoE dengan 30B parameter yang hanya mengaktifkan 3B per token, dibangun di atas arsitektur hibrida Mamba-2 dan MoE dengan lapisan atensi terpilih dan kepala prediksi multi-token (MTP) yang tertanam selama tahap pra-pelatihan khusus. Nvidia menyatakan bahwa model ini disuling dari model frontier Nemotron 3 Ultra dan dilatih dengan lebih dari 20 triliun token, serta mendukung jendela konteks hingga 1 juta token.
Tujuan desainnya adalah latensi dan biaya dalam skala besar, bukan generalitas mutakhir. Nvidia memposisikan Lightning untuk "lapisan eksekusi" dari agen yang selalu aktif — panggilan bervolume tinggi dan berkesulitan rendah yang terus-menerus dilakukan agen: panggilan alat, peninjauan kode, triase peringatan keamanan, pertanyaan penagihan, delegasi sub-agen. Itu adalah pekerjaan yang tidak Anda inginkan menggunakan model frontier di setiap langkah; Anda menginginkan model yang murah, cepat, dan cukup baik. Klaim kecepatan tersebut berasal dari arsitekturnya: keluaran hingga 4× lebih cepat daripada model berukuran serupa dan penyelesaian tugas agen sekitar 30% lebih cepat, menurut pengukuran Nvidia. Dua model draf, DSpark dan DFlash, menyediakan decoding spekulatif yang disesuaikan untuk pelayanan konkurensi sedang hingga tinggi.
Tiga titik pemeriksaan — dan yang mana yang Anda inginkan
Peluncuran ini sebenarnya adalah tiga unduhan, dan liputan yang memperlakukan "Nemotron 3.5 Lightning" sebagai satu model melewatkan perbedaan yang paling penting bagi seorang pengembang.
Subjek dari bagian ini, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, adalah checkpoint pra-terlatih mentah — tanpa fine-tuning terawasi, tanpa RL, tanpa distilasi yang diterapkan. Ini adalah model dasar dalam arti yang ketat: model ini tidak bisa mengobrol secara langsung, dan model ini ada untuk menjadi titik awal untuk pra-pelatihan lanjutan, SFT kustom, RL, atau distilasi. Jika Anda berniat membangun model Anda sendiri di atas pra-pelatihan Nvidia, inilah file yang Anda inginkan.
Rilis saudaranya, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, adalah bobot referensi yang menjalankan pipeline lengkap — pra-pelatihan, kelanjutan MTP, SFT, dan RL. Ini adalah model penalaran dan obrolan tujuan umum, tetapi Nvidia tetap membingkainya sebagai titik awal kustomisasi daripada artefak serving produksi. Untuk serving, checkpoint NVFP4 (dirilis bersamaan, berbagi kernel kuantisasi yang digunakan Nvidia untuk Nemotron 3 Ultra) adalah yang ditujukan untuk latensi dan throughput.
Panduan praktis, satu baris per titik pemeriksaan:
• Base-BF16 — pre-training lanjutan, post-training domain, distilasi dari awal. Anda lanjutkan dari sini.
• Referensi BF16 — mendukung chat dan penalaran, tetapi dimaksudkan sebagai basis untuk SFT atau RL Anda sendiri, bukan sebagai endpoint yang dihosting.
• NVFP4 — checkpoint yang dioptimalkan untuk deployment di GPU Nvidia.
Sebagian besar pembaca yang menggunakan API produksi menginginkan model yang disetel, bukan model dasar. Namun, model dasar tetap penting karena Nvidia merilisnya di bawah lisensi terbuka (OpenMDW-1.1) yang mencakup bobot, data pelatihan, dan resep — pretraining mentah adalah bagian yang tidak bisa Anda dapatkan dari vendor tertutup, dan bagian itulah yang membuat seluruh keluarga model ini menjadi milik Anda.

Buku besar tolok ukur, dengan label yang jujur
Berikut ini yang dilaporkan Nvidia untuk checkpoint dasar pada evaluasinya sendiri: MMLU 78.59, MMLU-Pro (5-shot) 67.94, GSM8K 91.28, HumanEval 77.44, MBPP 78.59, ARC-Challenge 92.66, HellaSwag 85.55, WinoGrande 79.95, dan skor RULER konteks panjang sebesar 69.62 pada 1M token. Referensi yang telah disetel mengubah hasil di bagian yang Anda perkirakan: MMLU-Pro 81.94, GPQA Diamond (tanpa alat) 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58.
Angka kecepatan utama juga dilaporkan oleh vendor: hingga 4× output lebih cepat dan 30% penyelesaian tugas agen yang lebih cepat dibandingkan model di kelasnya, plus hasil PinchBench akurasi 86% pada 10.000 tugas, kira-kira 30% lebih cepat daripada Qwen3.6-35B pada akurasi serupa. Nvidia juga mengutip Artificial Analysis Intelligence Index sebesar 24, sejajar dengan gpt-oss-120b — tetapi perhatikan sumbernya: itu adalah Nvidia yang mengutip skor untuk model yang, per 11 Agustus, belum muncul di papan peringkat publik Artificial Analysis. Laboratorium independen belum memublikasikan angka Lightning.
Untuk memberi gambaran tentang posisi 24 dalam keluarga ini, indeks terukur AA untuk model terbuka Nvidia lainnya adalah 25.4 untuk Nemotron 3 Ultra dan Nemotron 3 Super, serta 14.2 untuk Nemotron 3 Nano. Lightning bukanlah model frontier, dan Nvidia tidak mengklaim demikian; ini adalah taruhan pada sisi kecepatan-dan-biaya dari perbatasan Pareto.

Kegunaannya: lapisan eksekusi agen
Tawaran Nvidia adalah {{1}}pembagian kerja{{/1}}: {{2}}model frontier merencanakan dan bernalar{{/2}}, dan eksekutor murah menangani ribuan panggilan rutin yang membuat agen benar-benar berjalan sepanjang hari. Itulah mengapa pengumuman yang sama mencakup pustaka perutean — Lightning dimaksudkan menjadi satu lapisan dalam sistem yang lebih besar, bukan seluruh sistem.
Studi kasus mitra disediakan oleh Nvidia, jadi bacalah sebagai materi pemasaran yang disertai angka-angka. Yang paling menggambarkan tujuan model adalah CodeRabbit, yang menyebutkan bahwa mereka melakukan pasca-pelatihan Lightning untuk review kode dalam waktu kurang dari tiga jam dengan biaya kurang dari $100, memperoleh akurasi sekitar 4% lebih tinggi daripada baseline kelas GPT dengan biaya inferensi kira-kira setengahnya. Apakah Anda mempercayai angka-angka pastinya atau tidak, bentuknya itulah ceritanya: model dengan 3B parameter aktif cukup murah untuk di-fine-tune pada data Anda sendiri dan dilayani dalam skala besar, itulah seluruh proposisi nilainya.
Perhitungan biaya
Tidak ada harga daftar untuk Nemotron 3.5 Lightning, karena tidak ada yang perlu dibeli — bobotnya gratis di bawah OpenMDW-1.1, beserta data pelatihan dan resep. Harganya adalah apa pun yang dibebankan host untuk melayaninya, dan angka itu akan bervariasi lebih dari kualitasnya setelah API pihak ketiga mulai membawa keluarga ini. Untuk pembuatan prototipe, Nvidia menyajikannya sebagai layanan mikro NIM di platform build.nvidia.com miliknya sendiri, yang gratis untuk dicoba dengan batas kecepatan dan tanpa kartu kredit.
Dua realitas biaya perlu dipertimbangkan sebelum Anda menilai ini. Pertama, "total 30B, aktif 3B" berarti inferensi murah per token, tetapi 30B penuh tetap harus berada di memori setiap GPU — pelayanan tidak gratis, dan konkurensi batch menentukan seberapa cepat ia benar-benar berjalan. Kedua, ketika model berbobot terbuka hadir di beberapa API yang di-hosting, harga per token antar penyedia dapat berbeda hingga beberapa kali lipat, dan perbedaan itu bukanlah sinyal kualitas. Di sinilah gateway pass-through membuktikan nilainya: OrcaRouter meneruskan harga daftar penyedia secara langsung dengan markup 0%, sehingga penurunan harga di penyedia berlaku pada hari yang sama dan variasi harga tetap berada di sisi pasar. Nemotron 3.5 Lightning belum ada di OrcaRouter — bobotnya baru dirilis beberapa jam lalu — tetapi pola untuk mengadopsi model yang baru berumur sehari dengan aman adalah merutekannya di belakang failover otomatis, sehingga masalah cold-start di satu host tidak dapat menjatuhkan jalur produksi.
Router yang disertakan dengannya
NeMo Switchyard layak dipahami karena ini adalah taruhan Nvidia tentang bagaimana AI agenik terbuka seharusnya berjalan: bukan satu model besar, melainkan sistem yang mengirim setiap langkah ke model yang paling cakap dan efisien yang tersedia. Ini adalah pustaka sumber terbuka yang Anda integrasikan ke dalam harness Anda, dengan kenop untuk menyesuaikan kualitas, latensi, atau biaya. Tolok ukur Nvidia sendiri mengklaim akurasi tingkat frontier dengan biaya hampir sepertiga dari biaya model frontier yang berjalan sendiri.
Hasil dari para mitra, sekali lagi dilaporkan oleh Nvidia, konsisten secara arah: Boomi mengatakan pihaknya merutekan 59% lalu lintas ke model khusus yang 5× lebih cepat dengan latensi giliran berikutnya 21% lebih rendah; Cognition melaporkan biaya rata-rata 28% lebih rendah; Ramp mengatakan pihaknya menyamai kinerja model frontier pada SWE-bench miliknya sendiri dengan biaya 58% lebih rendah. Titik data yang paling jujur adalah LangChain: biaya 74% lebih rendah pada 145 tugas agen multi-langkah dengan hanya 7% panggilan ke model frontier — dengan tradeoff akurasi 6%. Routing tidak gratis; ini adalah tradeoff yang disengaja.
Switchyard adalah sebuah pustaka, yang berarti ini adalah jalur bangun-sendiri: Anda menentukan kebijakan, mengintegrasikannya, mengoperasikannya. Alternatif terkelola adalah API perutean yang dihosting, di mana satu kunci mencakup katalog lebih dari 200 model, failover adalah default alih-alih sesuatu yang Anda rakit, dan DSL perutean memungkinkan Anda menggabungkan beberapa model menjadi satu panggilan. Angka pengujian Nvidia sendiri — 59%, 74%, 58% — adalah argumen terkuat untuk pola itu, di lapisan mana pun Anda menjalankannya.
Cara menjalankannya hari ini
Dukungan hari pertama sangat luas. Checkpoint berjalan secara lokal di PC RTX, DGX Spark, DGX Station, dan perangkat Jetson, serta di pusat data pada GPU Hopper dan Blackwell. Ekosistem yang diumumkan mencakup vLLM, SGLang, llama.cpp, Ollama, LM Studio, Unsloth, dan TensorRT-LLM, ditambah kontainer NIM untuk infrastruktur Nvidia. Untuk pasca-pelatihan, Nvidia juga merilis dataset RL terbuka, Nemotron-RL-Agentic-Terminal-Pivot, yang ditujukan untuk kemampuan agen pengkodean — berguna jika Anda berencana melakukan langkah RL sendiri di atas basis tersebut.

Siapa yang harus bertindak sekarang
Tiga kelompok mendapatkan sesuatu dari rilis ini, dan masing-masing sebaiknya melakukan hal yang berbeda. Jika Anda membangun model — pre-training lanjutan, post-training domain, distilasi — checkpoint Base-BF16 adalah unduhan yang menarik, dan ini benar-benar baru: Nvidia belum pernah merilis pretraining mentah kelas 30B di bawah lisensi ini sebelumnya. Jika Anda menyajikan model, checkpoint NVFP4 dan jalur NIM layak untuk dibenchmark terhadap apa yang sudah Anda jalankan untuk beban kerja agen; profil 3B-aktif adalah nilai jual utamanya. Dan jika Anda pengembang aplikasi, jawaban yang jujur adalah menunggu sebentar: model yang telah disetel belum tersedia di API yang di-hosting dalam bentuk yang stabil, angka independen masih berminggu-minggu lagi, dan gambaran biaya akan lebih jelas setelah pasar menetapkan harga MoE 30B terbuka.
Apa yang harus ditonton selanjutnya: uji coba independen pertama di Artificial Analysis, yang akan mengonfirmasi atau mengempiskan klaim Index-24; harga yang ditetapkan penyedia hosting pertama untuk checkpoint yang telah disetel; dan seberapa sering angka Switchyard milik Nvidia sendiri muncul dalam tolok ukur orang lain. Ini adalah peluncuran tentang efisiensi dan perutean, bukan tentang batas baru — dan itulah, bukan lembar spesifikasi, yang menjadi ceritanya.
Pertanyaan yang Sering Diajukan (FAQ)
Bisakah saya menggunakan checkpoint Base-BF16 untuk chat secara langsung?
No. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 adalah checkpoint pra-terlatih mentah tanpa SFT atau RL — model ini tidak disetel dengan instruksi. Opsi yang mampu bercakap-cakap dan bernalar adalah varian NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 yang merupakan rilis referensi, yang menjalani seluruh pipeline empat tahap; model dasar ini ada untuk dilatih lebih lanjut, bukan digunakan langsung.
Apakah Artificial Analysis Index sebesar 24 merupakan skor independen?
Tidak — belum. Angka itu adalah Nvidia yang mengutip skor untuk model yang, per 11 Agustus 2026, belum muncul di papan peringkat publik Artificial Analysis. Laboratorium independen belum memublikasikan hasil Nemotron 3.5 Lightning, jadi anggap setiap angka dalam materi peluncuran sebagai yang dilaporkan vendor sampai ada pengujian pihak ketiga.
