LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: Satu Gigabyte Melawan Dua Puluh Dua

Sebagian besar perbandingan model dimulai dengan tabel benchmark. Perbandingan ini harus dimulai dengan anggaran memori, karena LFM3-1.7B dan Nemotron 3.5 Lightning 30B A3B tidak bersaing untuk slot yang sama dalam sebuah sistem. Model NVIDIA, yang dirilis pada 11 Agustus 2026 di bawah OpenMDW-1.1, membutuhkan sekitar 22 GB dalam build NVFP4-nya. Model Liquid AI, yang diumumkan pada 27 Oktober 2026, membutuhkan sekitar 1 GB pada 4-bit dan dirancang untuk berjalan di ponsel. Untuk model apa pun yang tidak kami hosting sendiri, perutean adalah permukaan kendali alih-alih host. Harga daftar penyedia diteruskan dengan markup 0%.

Semua yang mengikuti fakta itu berasal darinya. Nemotron 3.5 Lightning adalah model yang lebih mumpuni pada setiap benchmark yang diterbitkan kedua vendor — GPQA Diamond pada 75,57 berbanding 63,37, SWE-bench Verified pada 52,80 berbanding 43,40, sebagaimana tercantum di panel evaluasi pada kartu Hugging Face milik NVIDIA sendiri. Model ini juga memiliki jendela konteks hingga 1 juta token berbanding 262.144. Jika pertanyaan Anda adalah model mana yang lebih baik, jawabannya tidak ambigu dan halaman ini bisa berakhir di sini.

Pertanyaan yang layak diajukan sebagai gantinya adalah model mana yang punya pekerjaan dalam deployment Anda. Model 22 GB tidak bisa berjalan di ponsel, laptop, atau Jetson dalam konfigurasi apa pun yang berguna. Model 1 GB tidak memperbaiki repositori. Itu adalah batasan yang berbeda, dan perbandingan yang hanya menghitung poin benchmark akan membuat Anda membeli model yang salah.

Apa yang sebenarnya cocok di mana

Nemotron 3.5 Lightning 30B A3B adalah model campuran pakar hibrida: 30 miliar parameter total dengan sekitar 3 miliar aktif, 128 pakar yang dirutekan dengan enam diaktifkan ditambah satu pakar bersama, serta lapisan state-space Mamba-2 yang diselingi dengan sejumlah kecil lapisan atensi penuh. NVIDIA menyediakan bobot referensi BF16 dan build NVFP4 sekitar 22 GB yang muat di satu GPU, dan model ini berjalan di B200, H100, H200, A100, GB200, DGX Spark, RTX 5090, dan perangkat keras Jetson.

LFM3-1.7B padat dan kecil: 1,73 miliar parameter, 24 lapisan konvolusi pendek bergerbang dan atensi sparse, 3,46 GB dalam BF16 dan sekitar 1 GB pada 4-bit. Kartu Liquid menyatakan model ini muat di ponsel atau laptop, dan pada ukuran sebesar itu klaim tersebut terbukti benar.

• Total parameter — 1.73B dense untuk LFM3-1.7B; 30B dengan sekitar 3B aktif untuk Nemotron 3.5 Lightning.

• Memori penerapan — sekitar 1 GB pada 4-bit dibandingkan sekitar 22 GB dalam NVFP4.

• Konteks — 262.144 token dibandingkan dengan hingga 1.000.000, dengan 256K pada satu H100 dan 262K pada endpoint yang dihosting.

• Modalitas — hanya teks pada keduanya; tidak ada yang menyertakan jalur visi atau audio dalam checkpoint ini.

• Bahasa — enam belas disebutkan untuk LFM3-1.7B; Inggris ditambah lima untuk Nemotron 3.5 Lightning.

• Lisensi — LFM Open License v1.0, gratis untuk pendapatan tahunan di bawah $10 juta, dibandingkan dengan OpenMDW-1.1, yang mengizinkan penggunaan komersial dan non-komersial tanpa syarat pendapatan.

Argumen kecepatan Nemotron bukanlah bahwa model itu kecil.

Mudah untuk membaca "Lightning" dan "3B active" sebagai klaim yang sama dengan model dense kecil. Kenyataannya tidak. Kisah kecepatan NVIDIA bertumpu pada tiga hal yang tidak dimiliki model LFM3: arsitektur hibrida Mamba-2 yang lebih baik dalam penskalaan pada sekuens panjang, prediksi multi-token dengan speculative decoding, dan model draft khusus — DSpark untuk DGX Spark dan penyiapan konkurensi rendah, DFlash sebagai alternatif.

Pengukuran yang diterbitkan mendukung hal ini. Pada DGX Spark, vLLM dengan DSpark mencapai sekitar 115,8 token per detik untuk aliran tunggal dan kira-kira 422 token per detik secara agregat pada delapan permintaan bersamaan, dibandingkan dengan sekitar 79,6 token per detik tanpa spekulasi. NVIDIA mengklaim generasi hingga empat kali lebih cepat daripada model berukuran serupa dan memposisikan model tersebut pada frontier Pareto akurasi-kecepatan.

Keunggulan kecepatan LFM3-1.7B berbeda secara jenis. Model ini cepat karena hampir tidak ada yang perlu dijalankan — 1,73 miliar parameter dense, cache KV 1,6 GB pada 128K token, dan tanpa overhead routing. Liquid melaporkan decoding 1,8 hingga 2,8 kali lebih cepat daripada pendahulunya sendiri pada perangkat keras yang diuji dan 3,6 miliar token per hari pada satu NVIDIA B300. Itu adalah throughput pada perangkat keras yang tidak dipasang siapa pun di ponsel.

Jadi kedua model itu cepat karena alasan yang berlawanan: yang satu dengan merekayasa model besar agar berkomputasi lebih sedikit per token, yang lain karena cukup kecil sehingga pertanyaannya menjadi tidak relevan. Di server, rekayasa itu menang. Di perangkat, model kecil adalah satu-satunya opsi yang ada.

Kesenjangan kapasitas, dinyatakan secara gamblang

Kartu Hugging Face NVIDIA mencantumkan 81,62 pada MMLU-Pro, 75,57 pada GPQA Diamond, dan 52,80 pada SWE-bench Verified untuk Nemotron 3.5 Lightning 30B A3B. Liquid melaporkan 63,37 pada GPQA Diamond dan 43,40 pada SWE-bench Verified untuk LFM3-1.7B, dan sama sekali tidak menerbitkan angka MMLU-Pro untuk model tersebut.

Dua dari tiga itu dapat dibandingkan secara langsung dan keduanya menguntungkan NVIDIA, dengan selisih 12,2 dan 9,4 poin. Itu adalah kesenjangan nyata tepat pada tugas-tugas yang paling lemah bagi model padat kecil: penalaran sains tingkat pascasarjana dan perbaikan kode berskala repositori. Kartu model Liquid sendiri mengakui yang kedua, dengan menyatakan bahwa model ini tidak direkomendasikan untuk pengodean agentik atau penalaran multi-langkah yang kompleks karena ukurannya yang kecil.

Catatan tentang angka persisnya: angka yang dipublikasikan NVIDIA untuk checkpoint ini sedikit berbeda antara materi rilisnya dan panel evaluasi Hugging Face — tulisan sebelumnya menyebut 75,44 dan 51,56 untuk dua benchmark yang sama. Arah dan perkiraan besarnya selisih tetap stabil di berbagai versi; perlakukan desimal spesifik tersebut sebagai angka yang dilaporkan vendor dan bergantung pada versi, bukan sebagai skor tetap.

Jika LFM3-1.7B memiliki angka tersendiri, angka-angka itu bersifat agentik, bukan berbasis pengetahuan: 71,39 pada BFCL V4, 80,36 pada ToolSandbox, 68,01 pada τ³-bench, 38,42 pada WebArena-Verified, 96,66 pada IFEval. NVIDIA tidak menerbitkan angka BFCL atau ToolSandbox untuk checkpoint ini, sehingga angka-angka itu tidak dapat dibandingkan langsung. NVIDIA melaporkan akurasi 86% pada PinchBench di 10.000 tugas, diselesaikan 30% lebih cepat daripada Qwen3.6-35B pada akurasi yang serupa — klaim yang tidak memiliki padanan dari Liquid. Kedua vendor sekadar mengukur hal yang berbeda, dan hanya bagian yang tumpang tindih yang mendukung sebuah kesimpulan.

Konteks adalah kesenjangan nyata yang paling lebar

Satu juta token dibandingkan 262.144 bukanlah perbedaan marginal. Jendela native Nemotron 3.5 Lightning empat kali lebih panjang, dan bahkan konfigurasi konservatif satu-H100 pada 256K menyamai batas maksimum model LFM3. Untuk beban kerja yang dibangun di sekitar konteks seluruh repositori, jejak agen berhorizon panjang, atau transkrip berdurasi berjam-jam, jendela model kecil menjadi kendala lebih dulu sebelum kemampuannya.

Perlu dicatat, bagaimanapun, bahwa jendela panjang dan retensi konteks panjang adalah klaim yang berbeda. LFM3-1.7B melaporkan 65,56 pada RULER di 128K, yang tergolong moderat — model ini dapat menerima 262K token tetapi tidak mempertahankan seluruh konteks itu dengan sama baiknya. NVIDIA belum menerbitkan angka RULER untuk checkpoint ini dalam materi yang ditinjau di sini, sehingga perbandingan retensi tidak dapat dilakukan. Jangan berasumsi bahwa jendela 1M berarti 1M atensi yang dapat digunakan.

Lisensi berbeda lebih jauh daripada yang disarankan oleh tolok ukur

Ini adalah satu dimensi di mana vendor model kecil membuat pilihan yang kurang praktis. Nemotron 3.5 Lightning 30B A3B dirilis di bawah OpenMDW-1.1, yang mengizinkan penggunaan komersial dan nonkomersial tanpa ambang pendapatan. LFM3-1.7B berada di bawah LFM Open License v1.0, gratis untuk penggunaan komersial di bawah $10 juta pendapatan tahunan, dengan lisensi komersial berbayar diperlukan di atas ambang tersebut.

Bagi seorang pengembang individu atau startup, perbedaannya bersifat teoretis. Bagi tim di dalam perusahaan besar, atau tim yang berencana menjadi besar, ini adalah langkah pengadaan yang sepenuhnya dihindari Nemotron. Mengingat inti tawaran LFM3-1.7B adalah penerapan di dalam produk Anda sendiri, lisensinya layak dibaca sebelum arsitekturnya layak dikagumi.

Di mana model 1 GB masih menjadi jawabannya

Tidak satu pun dari hal di atas membuat LFM3-1.7B menjadi model yang buruk. Itu membuatnya menjadi model dengan cakupan penerapan yang sempit, dan di dalam cakupan itu tidak ada yang relevan tentang Nemotron 3.5 Lightning karena model yang lebih besar itu sama sekali tidak bisa berada di sana.

Jika produk dikirim ke ponsel, laptop, AI PC tanpa GPU diskret, atau perangkat lapangan, LFM3-1.7B bukanlah kompromi — ia satu-satunya anggota pasangan ini yang dapat berjalan. Konteks 262.144 token pada perangkat yang muat di saku sungguh tidak biasa, dan kosakata enam belas bahasa mencakup sebagian besar penerapan regional. Untuk pemanggilan alat, ekstraksi terstruktur, klasifikasi, dan asisten lokal, itu sudah cukup untuk membangun sebuah produk.

Pola yang tepat bagi sebagian besar tim adalah keduanya, secara berlapis. Pertahankan LFM3-1.7B di perangkat untuk panggilan yang cepat, privat, dan berbentuk skema, lalu kirim pekerjaan yang berat penalaran atau berskala repositori ke model di sisi server. Itu adalah keputusan arsitektural, bukan preferensi model, dan kebetulan memang begitulah cara sebagian besar agen yang sudah dirilis dibangun.

Di mana lapisan perutean cocok adalah di tier server. Nemotron 3.5 Lightning disajikan melalui stack milik NVIDIA sendiri dan sejumlah platform pihak ketiga, dan peran OrcaRouter adalah peran yang sama seperti untuk model apa pun yang tidak kami hos sendiri: satu kunci dan satu tagihan untuk lebih dari 200 model, harga daftar penyedia diteruskan tanpa markup 0%, dan failover otomatis antar penyedia sehingga agen yang berjalan lama tidak gagal karena satu endpoint menurun. Baik LFM3-1.7B maupun Nemotron 3.5 Lightning belum ada di katalog kami saat ini — keduanya adalah unduhan berbobot terbuka, dan yang kecil dimaksudkan untuk berjalan pada perangkat keras yang Anda miliki sendiri.

Lantai adalah intinya

Jika Anda memiliki GPU dan masalah Anda adalah kapabilitas, Nemotron 3.5 Lightning 30B A3B adalah model yang lebih baik dengan selisih yang jelas dan tidak ada yang perlu diperdebatkan. Model ini bernalar lebih baik, memperbaiki kode lebih baik, menampung konteks empat kali lebih banyak, dan lisensinya tidak memiliki uji pendapatan.

Jika Anda memiliki perangkat dan masalah Anda adalah tidak ada hal lain yang muat di dalamnya, perbandingannya berbalik sepenuhnya. Model 22 GB bukan kandidat, dan angka yang relevan menjadi 1 GB, 262.144 token, dan profil pemanggilan alat yang cukup kuat sehingga Liquid menerbitkannya sebagai kemampuan utama model tersebut.

Pertanyaan terbuka yang ada adalah apakah resep efisiensi Nemotron dapat dikompresi lebih jauh. Model 30B dengan 3B aktif sudah berjalan di Jetson; model kelas 2B yang benar-benar kuat dalam keluarga yang sama akan menempatkan keduanya dalam percakapan yang sama alih-alih di dua sisi dinding memori. Hingga saat itu, perbandingan yang jujur bukanlah antara skor benchmark mereka, melainkan antara perangkat keras yang dibutuhkan masing-masing — dan hanya satu di antaranya yang tidak membutuhkan apa pun.