Granite 4.2 30B vs Nemotron 3.5 Lightning: sang pemikir dan sang pelaksana

Granite 4.2 30B dan Nemotron 3.5 Lightning adalah dua model 30B open-weight yang dirilis dengan selisih empat belas hari dengan peran yang hampir berlawanan. Nemotron 3.5 Lightning, dirilis oleh NVIDIA pada 11 Agustus 2026, adalah hibrida Mixture-of-Experts dengan total 30B / 3B aktif — lapisan state-space Mamba-2, MoE, dan attention — yang dibangun untuk menjadi lapisan eksekusi dari sistem agen: panggilan alat yang cepat, loop bervolume tinggi, pekerjaan sub-agen, berjalan pada satu GPU. Granite 4.2 30B, yang diterbitkan IBM secara tenang di Hugging Face pada 25 Agustus 2026, adalah model penalaran padat dengan 29 miliar parameter — seorang pemikir, dengan mode berpikir yang dapat dipilih dan pembelajaran penguatan agen, juga dapat di-host sendiri. Keduanya bersifat terbuka (Apache 2.0 versus OpenMDW-1.1), keduanya muat di perangkat keras yang benar-benar dapat dimiliki tim, dan keduanya merupakan rilis Agustus yang tolok ukurnya masih pada dasarnya dilaporkan oleh vendor. Pertanyaan yang menarik bukanlah mana yang lebih baik, tetapi mana yang Anda butuhkan — seorang perencana, seorang eksekutor, atau keduanya.

Pemisahan perencana/eksekutor itu bukan ciptaan editorial; itu adalah desain NVIDIA sendiri. Nemotron 3.5 Lightning disuling dari Nemotron 3 Ultra yang jauh lebih besar, khususnya agar model frontier dapat menangani perencanaan sementara Lightning menjalankan loop, dan NVIDIA merilisnya bersama NeMo Switchyard, pustaka perutean yang menerapkan pembagian kerja persis seperti itu. Granite 4.2 30B, sebaliknya, mencoba menjadi agen utuh dalam satu paket 30B.

Granite 4.2 30B, sang pemikir

Model unggulan IBM, Granite 4.2, adalah Transformer decoder-only yang padat dengan tiga mode penalaran — pemikiran penuh (dibungkus dalam think>.../think> tag), pemikiran dengan upaya rendah, dan tanpa pemikiran — ditambah pemanggilan alat yang kompatibel dengan OpenAI dan pembelajaran penguatan agentik yang melatihnya untuk mengoperasikan terminal, mengeksekusi kode, dan menelusuri web di dalam sandbox. Konteks asli 128K-nya dapat diperluas hingga 512K. Kartu model IBM mengklaim 89.17 pada AIME 2025, 77.60 pada MMLU-Pro, dan 57.00 pada SWE-Bench Verified (in-harness) — semuanya dilaporkan oleh vendor, tidak ada yang direproduksi secara independen, dan belum ada entri Artificial Analysis. Singkatnya, ini adalah model penalaran generalis yang difokuskan secara kuat pada pekerjaan agentik dan tersedia dalam kuantisasi BF16 plus FP8, NVFP4/MXFP4, dan GGUF sehingga tim benar-benar dapat menjalankannya.

Nemotron 3.5 Lightning, sang pelaku

Model NVIDIA memiliki bentuk yang sama sekali berbeda. Nama "30B A3B" berarti total 30 miliar parameter dengan hanya sekitar 3 miliar yang aktif per token — arsitektur hibrida yang menggabungkan Mamba-2, MoE, dan attention sehingga dapat menghasilkan teks dengan cepat dan murah. Model ini dilengkapi dengan speculative decoding bawaan: kepala Multi-Token Prediction, serta model draf DFlash dan DSpark, sehingga drafter kecil mengusulkan token yang kemudian diverifikasi oleh model utama secara paralel. NVIDIA mengklaim kecepatan output hingga 4x lebih cepat dibandingkan model dengan ukuran serupa, dan seluruhnya berjalan pada satu GPU — RTX 5090, DGX Spark, atau Jetson — atau pada konteks 256K di satu H100, dengan model yang mendukung hingga konteks 1M pada prinsipnya. Lisensinya, OpenMDW-1.1, mencakup bobot, data pelatihan, dan resep-resepnya.

Posisi NVIDIA sendiri blak-blakan tentang apa yang bukan Lightning: evaluasi yang mereka rilis menunjukkan performa Terminal-Bench yang lemah sebagai agen utama — LLM Stats secara independen memverifikasi sekitar 24,6 di Terminal-Bench 2.1 — dan panduannya adalah menggunakannya sebagai eksekutor, bukan perencana. Kekuatan yang dilaporkan sendiri adalah MMLU Pro 81,94, GPQA Diamond 75,44, SWE-Bench Verified 51,56, dan PinchBench dengan akurasi 86% sambil menyelesaikan tugas sekitar 30% lebih cepat daripada Qwen 3.6 35B pada akurasi serupa. Semua angka itu adalah angka milik NVIDIA sendiri.

Papan skor, yang diberi label dengan jujur.

Perbandingan yang berguna adalah bentuk kolom, bukan nilai baris:

• Granite 4.2 30B — ~29B padat, semua parameter aktif; Apache 2.0; 128K native / 512K diperluas; mode penalaran yang dapat Anda pilih per permintaan; dilaporkan vendor: SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24; sang pemikir.

• Nemotron 3.5 Lightning — total 30B / 3B aktif hybrid MoE; OpenMDW-1.1; konteks 1M (256K praktis pada satu H100); decoding spekulatif (MTP/DFlash/DSpark); dilaporkan vendor: SWE-Bench Verified 51.56, ~24.6 Terminal-Bench 2.1 (terverifikasi LLM Stats); si pelaksana.

Baca baris-baris itu sebagaimana NVIDIA memaksudkannya: Kelemahan Terminal-Bench milik Lightning adalah fitur dari desainnya — ia tidak seharusnya merencanakan, ia seharusnya mengeksekusi. Angka-angka Granite adalah satu model tunggal yang mengklaim melakukan keduanya. Tidak ada satu pun set yang direproduksi secara independen saat rilis; keduanya akan begitu dalam hitungan minggu.

Tumpukan, bukan modelnya.

Kedua model tersebut lebih merupakan komponen yang saling melengkapi dalam satu sistem yang sama daripada pesaing. Sebuah agen membutuhkan perencana (planner) untuk menguraikan tugas dan pelaksana (executor) untuk menuntaskan ribuan panggilan alat. Granite 4.2 30B berupaya menggabungkan keduanya menjadi satu model padat; Nemotron 3.5 Lightning secara eksplisit merupakan separuh dari susunan dua model, dengan model frontier sebagai separuh lainnya. NVIDIA menyebut susunan tersebut NeMo Switchyard; lapisan perutean melakukan hal yang sama dengan campuran model yang dihosting dan dihosting sendiri.

Di sinilah catatan routing yang jujur berada. Tidak satu pun model yang ada di OrcaRouter — kami tidak merutekan Granite 4.2 30B maupun Nemotron 3.5 Lightning, dan jalur ketersediaan untuk keduanya adalah perangkat keras Anda sendiri atau saluran milik vendor itu sendiri. Tetapi pola dua-model yang mereka tunjukkan adalah persis untuk apa DSL routing itu: susun endpoint Granite yang di-host sendiri untuk lintasan penalaran dan endpoint Lightning yang di-host sendiri untuk loop eksekusi, letakkan model frontier yang di-host di depan untuk perencanaan yang membutuhkan lebih banyak ruang, dan kendalikan ketiganya dari satu kunci API dengan failover otomatis. Anda tidak perlu memilih antara pemikir dan pelaksana — Anda dapat merakit stack yang menggunakan masing-masing di tempat yang kuat, dan biarkan router yang mengarbitrase.

Yang mana dulu?

Jika Anda ingin satu model untuk dimiliki, {{1}}satu codebase, satu serving stack{{/1}}, dan bersedia memberikannya semua pekerjaan penalaran dan eksekusi, mulailah dengan Granite 4.2 30B — tetapi tunggu benchmark independen pertama sebelum mempercayai angka 57.00 SWE-Bench. Jika Anda membangun agen bervolume tinggi yang sebagian besar panggilannya adalah {{2}}langkah alat singkat dan latensi adalah anggarannya{{/2}}, mulailah dengan Nemotron 3.5 Lightning dan biarkan model frontier atau endpoint Granite yang berpikir. Jika Anda membangun sesuatu yang serius, jawabannya adalah keduanya — yang merupakan {{3}}keputusan yang tidak akan pernah muncul dari perbandingan hanya-30B{{/3}}.