Tanggal Rilis Nemotron 3.5 Bolt 74B: NVIDIA Memadatkan Model Agen 74B ke Dalam 24GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B dirilis pada Kamis, 15 Oktober 2026, dan NVIDIA Nemotron 3.5 Bolt E4B menyusul pada Jumat, 23 Oktober. Kedua tanggal itu adalah jawaban atas sebuah teaser: pada 14 Oktober, akun AI NVIDIA memposting "Begitu banyak model yang diluncurkan minggu ini! Dan kami punya satu milik kami sendiri yang akan datang...⌛️" tanpa menyertakan nama. Memeriksa teaser itu layak menghabiskan dua menit, karena hal itu terungkap dengan cara yang tidak biasa — pengumuman yang disiratkan cuitan itu sudah dipublikasikan, secara lengkap, sehari sebelumnya, dalam postingan blog NVIDIA bertanggal 13 Oktober yang menyebutkan kedua model, kedua tanggal, jejak memori, dan runtime inferensi. Jadi ini bukan kebocoran, dan bukan rumor. Ini adalah peluncuran yang kurang dipromosikan, dan teaser itu adalah dorongan, bukan berita eksklusif.

Berikut ini memisahkan apa yang sebenarnya telah dituliskan NVIDIA dari apa yang belum diukur oleh siapa pun di luar perusahaan — yang, untuk model yang dirilis hari ini, merupakan sebagian besar kolom yang menarik.

Godaan itu, dan apa yang akhirnya terwujud

Dua hal perlu dipatok sebelum hal lain, karena keduanya justru jenis detail yang biasanya diratakan dalam agregasi. Pertama, urutannya. Posting blog NVIDIA "Semua Sistem Siap: Ekosistem Aplikasi PC Global Siap untuk NVIDIA RTX Spark" memiliki stempel waktu 2026-10-13T12:00Z. Posting "salah satu dari kami akan datang" muncul pada 2026-10-14T20:29Z — sekitar tiga puluh dua jam kemudian. Tweet itu hanyalah penunjuk, bukan sumber utama, dan tulisan apa pun yang menganggap tweet itu sebagai pengumuman berangkat dari dokumen yang salah.

Kedua, frasa "one of our own" benar-benar berperan penting. NVIDIA bukan hanya vendor di sini; ia adalah vendor platform untuk pekan ini. Pos 13 Oktober yang sama menyebutkan laptop RTX Spark mulai dikirim pada 16 Oktober, model AI DLSS 5 yang dibangun ulang yang memulai debut di NBA 2K27 pada hari yang sama, NVIDIA PAIR keluar dari beta, dan Broadcast 2.3. Bolt 74B adalah model bahasa dalam sepekan ketika NVIDIA mengumumkan beberapa model dengan jenis yang sangat berbeda. Jika Anda datang mencari satu produk, itulah sebabnya liputannya membingungkan.

Apa yang NVIDIA telah berkomitmen untuk lakukan, dalam kata-katanya sendiri

Klaim intinya singkat dan spesifik. NVIDIA mendeskripsikan Nemotron 3.5 Bolt 74B-A9B sebagai "LLM baru yang dirancang khusus untuk menjalankan agen lokal di RTX Spark," dibangun sebagai "model mixture-of-experts (MoE) dengan 74B parameter, 9B parameter aktif" yang "dikemas ke dalam 24GB menggunakan kuantisasi 2-bit dengan teknik pelatihan sadar kuantisasi yang canggih untuk mempertahankan kualitas."

Tiga hal dalam kalimat itu yang menjalankan perannya:

• 9B aktif, bukan 74B. Ini adalah MoE sparse. Biaya perutean per token mengikuti jalur aktif, bukan jumlah total parameter, itulah sebabnya model 74B sampai ditawarkan untuk laptop.

• 2-bit, secara sengaja. Bukan kuantisasi komunitas dari rilis BF16, melainkan model yang menurut NVIDIA dilatih dengan teknik sadar kuantisasi yang bertujuan mempertahankan kualitas pada lebar tersebut. Apakah kualitasnya bertahan adalah soal pengukuran, bukan klaim — lihat catatannya di bawah ini.

• 24GB adalah batas target. NVIDIA membingkai trade-off ini sebagai "keseimbangan optimal antara kecepatan dan kecerdasan, karena lebih cepat daripada sebagian besar model dense populer sekaligus lebih pintar daripada sebagian besar model MoE populer dengan jejak memori yang serupa." Itu adalah positioning NVIDIA sendiri, yang tidak direproduksi oleh siapa pun.

Terkait akses, NVIDIA menyebutkan runtime secara eksplisit: llama.cpp, vLLM, Ollama, Unsloth, dan LM Studio saat peluncuran, plus penggunaan langsung melalui agen termasuk Hermes dan OpenClaw. Dan terkait lisensi, postingan itu mengatakan Bolt 74B "sepenuhnya open source... termasuk data pelatihan, bobot, dan resep" — kerangka yang sama yang NVIDIA terapkan pada sisa lini Nemotron.

Mengapa 24GB adalah angka yang penting, bukan 74B

Angka utama di sini adalah 74B. Yang menjadi tumpuan adalah 24GB, dan alasannya lugas: 24GB adalah cakupan akselerator kelas desktop. Itu adalah kapasitas satu kartu konsumen kelas atas, dan di sisi laptop, angka itu menjadi kerangka acuan yang dibangun NVIDIA untuk pekan ini — mesin RTX Spark memiliki batas hingga 128GB memori terpadu dan komputasi AI 1 petaflop, dan laptopnya sendiri tiba pada 16 Oktober.

Gabungkan semuanya dan pitch-nya menjadi masuk akal. MoE dengan 9B aktif yang bobotnya berada di 24GB pada 2-bit berarti build yang sama yang muat di kartu workstation juga muat di laptop yang dikirim keesokan harinya, dengan sisa ruang untuk aplikasi dan model kecil kedua. Itu adalah cerita penerapan yang secara nyata berbeda dari model frontier yang dihosting di balik API, dan itulah alasan "local agent" ada dalam deskripsi satu baris NVIDIA sendiri alih-alih "cheap inference."

Penyeimbangnya adalah bahwa target 2-bit merupakan batasan terhadap seperti apa model itu bisa. Perbandingan kualitas apa pun dengan model BF16 berukuran total serupa adalah perbandingan antar artefak yang berbeda, dan NVIDIA memilih artefak tersebut dengan sengaja. Nilai Bolt 74B terhadap build lokal kelas 24GB lainnya, bukan terhadap checkpoint presisi penuh yang tidak akan pernah muat.

Buku besar: terkonfirmasi, dinyatakan tetapi belum diukur, dan tidak diketahui

Bersikap tepat tentang di kolom mana suatu fakta berada adalah seluruh nilai dari membaca ini pada minggu pertama alih-alih minggu ketiga.

• Dikonfirmasi oleh NVIDIA: nama model, bentuk MoE 74B total / 9B aktif, jejak 24GB 2-bit, tanggal 15 Oktober, lima runtime yang disebutkan, akses agen melalui Hermes dan OpenClaw, dan pernyataan bahwa bobot, data pelatihan, dan resepnya terbuka.

• Dinyatakan tetapi tidak diukur: klaim kualitas itu sendiri. "Lebih pintar daripada sebagian besar model MoE populer dengan jejak memori yang serupa" dan "lebih cepat daripada sebagian besar model dense populer" dirilis tanpa tabel tolok ukur dalam pengumuman tersebut. Sejauh ini tampaknya belum ada evaluasi independen terhadap Bolt 74B.

• Belum diketahui saat penulisan ini: jendela konteks; lisensi yang disebutkan (NVIDIA menyebut open source tanpa menyebutkan nama lisensinya di pos ini); throughput inferensi persisnya pada tier 24GB; apakah rilis ini hanya berupa bobot yang dapat diunduh atau juga disajikan di balik API; apakah 2-bit adalah satu-satunya presisi yang dipublikasikan; dan seberapa dekat arsitekturnya diturunkan dari lini Nemotron 3.5 Lightning yang telah NVIDIA rilis dalam build BF16 dan NVFP4.

Hal terakhir yang belum diketahui itulah yang perlu dipegang. Penamaan NVIDIA sendiri mencantumkan kedua angka tersebut — "74B-A9B" dan "30B-A3B" yang lebih dulu — sehingga keduanya sebanding di atas kertas: kira-kira 2,5× total parameter model Lightning dan 3× parameter aktifnya. Apakah rasio itu bertahan dalam kompresi 2-bit adalah persis hal yang akan ditentukan oleh benchmark independen pertama.

Bolt E4B adalah separuh lainnya dari keluarga, dan ini adalah produk yang berbeda

Nemotron 3.5 Bolt E4B, yang akan dirilis pada 23 Oktober, bukanlah sepupu yang lebih kecil dari 74B seperti yang disiratkan oleh penamaannya. NVIDIA menyebutnya "model bahasa kecil (SLM) generasi ketiga untuk NVIDIA ACE," rangkaian yang digunakannya untuk karakter AI dalam game — sebuah garis keturunan yang dilacak perusahaan melalui beta PUBG untuk generasi pertama dan pratinjau Aniimo di Gamescom untuk generasi kedua.

Tujuan desain yang dinyatakannya berbentuk untuk gaming, bukan untuk agen: jejak 4GB, "waktu cepat ke token pertama," "mode percakapan baru [yang] membantu menjaga respons tetap ringkas dan siap diucapkan," tombol pengaktifan penalaran, dan pengaitan pada status aplikasi untuk penggunaan alat multi-giliran. NVIDIA memasangkan rilis ini dengan uji coba di dalam SkyrimNET, platform modding NPC Skyrim yang mendukung inferensi cloud maupun lokal, mulai pada hari yang sama.

Jadi, jika Anda datang dari tweet itu dengan mengharapkan satu model, Anda akan mendapatkan dua pada tanggal yang berbeda, dalam amplop yang berbeda, untuk pekerjaan yang berbeda: 15 Oktober untuk agen lokal 24GB, 23 Oktober untuk karakter game 4GB.

Bagaimana cara mengevaluasinya tanpa mempertaruhkan roadmap padanya

Bagian yang janggal dari model lokal hari pertama adalah Anda belum bisa menjawab satu-satunya pertanyaan yang penting — apakah checkpoint 2-bit tersebut bertahan pada beban kerja Anda — dan Anda juga belum bisa menjawab pertanyaan kedua, apakah ada rute hosted untuk dibandingkan. Kedua celah itu bersifat sementara, dan tidak satu pun menjadi alasan untuk merencanakan berdasarkan tabel benchmark yang tidak ada.

Jalur praktisnya adalah menjaga kedua keputusan tetap terpisah. Jalankan Bolt 74B secara lokal sebagai eksperimen dalam batas 24GB yang sudah Anda miliki, dan pertahankan jalur produksi pada apa pun yang dapat dipanggil hari ini. Bagian kedua itulah tempat infrastruktur perutean membuktikan perannya: satu kunci untuk lebih dari 200 model pada harga daftar penyedia dengan markup 0% berarti mencoba kandidat kedua atau ketiga hanya memerlukan perubahan konfigurasi, bukan kontrak kedua, dan failover otomatis lintas penyedia berarti build lokal yang belum terbukti tidak akan pernah menjadi satu-satunya titik kegagalan bagi agen yang aktif.

Ini juga cara yang jujur untuk membaca cara NVIDIA sendiri membingkai hal ini. "Dirancang khusus untuk menjalankan agen lokal di RTX Spark" adalah pernyataan tentang di mana model berjalan, bukan tentang berapa skornya. Perlakukan tanggal 15 Oktober sebagai momen ketika sebuah pertanyaan menjadi dapat dijawab — bukan sebagai jawaban.

Apa yang akan mengubah artikel ini

Tiga hal, dalam urutan kasar berdasarkan seberapa besar hal-hal itu akan mengubah gambaran.

• Lisensi yang disebutkan namanya dan repositori bobot publik. "Sepenuhnya open source termasuk data pelatihan, bobot, dan resep" adalah klaim terkuat dalam postingan NVIDIA dan yang paling mudah diverifikasi. Sampai lisensinya disebutkan namanya dan file-filenya dapat diunduh, klaim itu hanyalah janji.

• Tolok ukur independen pertama. Perbandingan yang menarik bukanlah Bolt 74B dengan model kelas 70B presisi penuh yang tidak pernah menjadi pesaingnya. Melainkan Bolt 74B pada 2-bit dengan setiap build lain yang muat dalam 24GB, diukur pada harness yang sama.

• Endpoint yang dihosting. Tanpa itu, tidak ada harga yang perlu diperdebatkan, dan tidak ada cara untuk merutekannya. Jika versi yang dilayani muncul, perbandingan harga dengan model yang sudah ada di daftar pilihan Anda menjadi konkret, dan harga pass-through menjadi layak diperiksa pada hari yang sama.

Sampai setidaknya salah satu dari itu terwujud, sikap yang tepat adalah ketertarikan, bukan komitmen. Teaser-nya nyata, tanggal-tanggalnya nyata, dan modelnya nyata. Evaluasinya tidak.

Pertanyaan yang layak dijawab dengan benar

Apakah Nemotron 3.5 Bolt 74B model yang sama dengan Nemotron 3.5 Lightning 30B-A3B?

Tidak. Itu adalah entri yang berbeda dalam generasi yang sama dengan bentuk yang berbeda: Bolt berukuran total 74B dengan 9B aktif, Lightning berukuran total 30B dengan 3B aktif menurut penamaan NVIDIA sendiri. Bolt juga hadir dengan footprint 2-bit, 24GB, sementara NVIDIA telah menerbitkan lini Lightning dalam build BF16 dan NVFP4. Apakah keduanya berbagi arsitektur bukanlah hal yang disebutkan dalam pengumuman itu.

Bisakah Anda menjalankan Bolt 74B pada kartu desktop 24GB, atau hanya di laptop RTX Spark?

Batasan yang dinyatakan NVIDIA adalah footprint, bukan mesinnya — 24GB pada 2-bit — dan runtime yang disebutkan adalah llama.cpp, vLLM, Ollama, Unsloth, dan LM Studio, yang tidak eksklusif untuk NVIDIA. RTX Spark adalah sasaran pemasaran NVIDIA, tetapi tidak ada apa pun dalam pengumuman tersebut yang menjadikannya syarat.

Apakah OrcaRouter menghosting Nemotron 3.5 Bolt 74B?

Belum hari ini, dan belum ada yang bisa dihosting — NVIDIA belum menerbitkan endpoint yang dilayani maupun harga untuknya. Jika itu berubah, model tersebut dapat dipanggil melalui kunci yang sama seperti semua hal lain di katalog, dengan harga daftar dari penyedia tanpa tambahan markup.

Untuk model yang mode kegagalannya masih belum terdokumentasi, padanan yang berguna adalah catatan tentang apa yang sudah pernah gagal di tempat lain: insiden AI dan kegagalan agen yang terdokumentasi pada model di kelas ini dikumpulkan dalam the OrcaRouter AI Incident Archive , yang setiap entrinya mencantumkan sumbernya sendiri, tingkat keparahan, nilai keyakinan, dan penanda status diperdebatkan.