NVIDIA Nemotron Labs Dory 1.0 4B vs LFM2.5 2.6B Base: Yang Satu Sudah Selesai, yang Lain Sengaja Tidak

N​VIDIA N​emotron Labs Dory 1.0 4B dan LFM2.5-2.6B-Base sama-sama kecil, sama-sama hanya teks, sama-sama dapat diunduh sebagai GGUF, dan sama-sama Anda jalankan sendiri — dan keduanya berada di ujung yang berlawanan dari pipeline pasca-pelatihan. Dory hadir sepenuhnya sudah jadi: supervised fine-tuning pada set yang dikurasi N​VIDIA, lalu reinforcement learning multi-lingkungan dengan GRPO, dengan penalaran yang selalu diaktifkan di jalur penyajian. LFM2.5-2.6B-Base hadir sengaja belum selesai, dijelaskan di kartunya sendiri sebagai checkpoint pra-latih "hanya direkomendasikan untuk tugas yang membutuhkan fine-tuning berat". Liquid AI mengirimkan versi final model itu secara terpisah sebagai LFM2.5-2.6B, yang menjalani post-training untuk beban kerja agentik. Jadi, cara membingkai yang jujur bukanlah "model kelas 4B mana yang lebih baik", karena checkpoint dasar dan model penalaran yang sudah jadi tidak bersaing untuk slot yang sama di stack Anda. Pertanyaan yang berguna adalah separuh pipeline mana yang Anda beli.

Apa sebenarnya setiap artefak itu

N​VIDIA N​emotron Labs Dory 1.0 4Badalah model dense 4B yang diterbitkan oleh N​VIDIA ke Hugging Face dalam empat kuantisasi — BF16, MXFP8, NVFP4, dan ekspor Q5_K_M GGUF — di bawah lisensi OpenMDW 1.1. Kartunya mencantumkan build "GA (10/16/2026)" dan mendeskripsikan arsitektur berulang (looped) dan laten-rekuren: blok input 8 lapis, blok rekuren 20 lapis yang diterapkan dengan jumlah yang bervariasi, dan blok output 8 lapis, dengan perhatian sliding-window dan perhatian penuh yang disisipkan secara hibrida. Konteksnya mencapai 256K token, bahasanya hanya bahasa Inggris, dan seluruh rilis diterbitkan tanpa pengumuman yang menyertainya dari N​VIDIA. Kartu tersebut mencatat bahwa penalaran selalu aktif di jalur penyajian vLLM, yang merupakan pernyataan tentang niat sekaligus mekanisme: ini bukan prediktor teks mentah yang akan melengkapi dokumen Anda, melainkan model yang dikonfigurasi untuk berpikir sebelum menjawab.

LFM2.5-2.6B-Base adalah checkpoint pra-terlatih 2,69B milik Liquid AI, dirilis di bawah lisensi LFM milik perusahaan sendiri (bertanda lfm1.0) dan diperbarui pada pertengahan Agustus 2026. Ini adalah checkpoint mentah dari mana sisa lini 2.6B diturunkan. Arsitekturnya adalah hibrida dari 22 blok konvolusi pendek dengan gerbang ganda dan 8 lapisan grouped-query attention, dilatih pada sekitar 34 triliun token dengan ekstensi konteks mid-training hingga 128K, dengan kosakata 128.000 token dan 16 bahasa. Kartu model ini eksplisit tentang audiensnya: asisten khusus domain, pekerjaan khusus bahasa, pelatihan pada data proprietary. Tidak ada perilaku template chat yang perlu dibahas, karena tidak ada penyetelan instruksi di dalamnya.

Keduanya menerima teks dan menghasilkan teks. Kira-kira di situlah kesamaannya berakhir.

Kontras spesifikasi, berdampingan

• Parameter — Dory 1.0 4B adalah tumpukan padat 4B. LFM2.5-2.6B-Base adalah 2,69B. Selisihnya lebih kecil daripada yang disiratkan oleh namanya, dan keduanya muat dengan nyaman pada satu akselerator konsumen dengan kuantisasi yang wajar.

• Pasca-pelatihan — Dory memiliki SFT ditambah RL multi-lingkungan di bidang matematika, kode, sains, mengikuti instruksi, penggunaan alat, dan output terstruktur. LFM2.5-2.6B-Base tidak memiliki satu pun, memang begitu rancangannya. Jika Anda memerlukan model yang langsung dapat mengikuti instruksi, salah satu dari ini adalah pilihan yang salah dan itu bukan yang memiliki parameter lebih sedikit.

• Konteks — Dory mencapai 256K token, dengan 262.144 posisi yang divalidasi di vLLM di bawah perintah peluncuran bawaan N​VIDIA. LFM2.5-2.6B-Base mendukung 131.072 token, dicapai melalui ekstensi pelatihan menengah. Jendela Dory kira-kira dua kali lipat; apakah Anda mampu mengisinya bergantung pada perilaku KV-cache yang dibahas di bawah ini.

• Bahasa — Dory hanya dalam bahasa Inggris, dengan data pra-pelatihan yang mencakup 43 bahasa pemrograman. LFM2.5-2.6B-Base mencakup 16 bahasa alami termasuk bahasa Inggris, Arab, Tionghoa, Prancis, Jerman, Italia, Jepang, Korea, Portugis, Spanyol, Vietnam, Thailand, Indonesia, Hindi, Rusia, dan Polandia. Untuk apa pun di luar bahasa Inggris, dimensi ini menentukannya sendiri.

• Arsitektur — hibrida konvolusi-pendek-plus-atensi di sisi Liquid; GPT ternormalisasi yang rekuren-laten berulang dengan atensi jendela geser berselang-seling di sisi NVIDIA. Keduanya merupakan penyimpangan dari tumpukan transformer biasa, dan keduanya menyimpang ke arah yang berbeda.

• Perilaku komputasi — kedalaman Dory adalah parameter runtime. Jumlah loop 1, 2, atau 4 menukar komputasi demi akurasi tanpa checkpoint kedua, dan NVIDIA merekomendasikan dua sebagai default. LFM2.5-2.6B-Base memiliki kedalaman tetap; tuas biayanya adalah kuantisasi dan, di keluarga yang lebih luas, drafter spekulatif.

• Lisensi — OpenMDW 1.1 untuk Dory, lisensi LFM untuk checkpoint Liquid. Keduanya mengizinkan penggunaan komersial; lisensi Liquid adalah milik perusahaan sendiri, bukan teks sumber terbuka standar, yang patut dibaca alih-alih diasumsikan.

• Format yang dirilis — Dory: BF16, MXFP8, NVFP4, GGUF. LFM2.5-2.6B-Base: bobot BF16 di Hub, dengan build GGUF, ONNX, dan MLX tersedia di tempat lain dalam keluarga ini. Ekosistem Liquid lebih luas di sini; repositori Dory baru berumur beberapa jam.

Penyetelan halus adalah poros yang memisahkan mereka.

Jika alasan Anda melihat LFM2.5-2.6B-Base adalah bahwa Anda berniat melatihnya — asisten domain, korpus proprietary, bahasa yang sudah dikuasai model dasar — maka Dory 1.0 4B adalah pengganti yang buruk karena alasan yang sama sekali tidak berkaitan dengan kualitas. Melakukan fine-tuning pada model penalaran yang telah sepenuhnya melalui pascapelatihan untuk mengerjakan tugas sempit biasanya lebih sulit daripada fine-tuning checkpoint dasar, karena Anda melawan perilaku yang ditanamkan oleh tahap RL alih-alih membentuk prediktor yang masih kosong. Kartu Liquid merekomendasikan checkpoint dasarnya untuk pekerjaan yang spesifik domain dan bahasa justru karena alasan ini, dan 34 triliun token pra-pelatihan dalam 16 bahasa adalah titik awal yang lebih luas daripada yang ditawarkan model yang hanya berbahasa Inggris.

Tetapi kartu Dory tidak menyebutkan fine-tuning dengan cara yang justru informatif. Kartu itu mendokumentasikan pipeline pelatihan, mempublikasikan format, dan memberikan instruksi serving untuk dua engine; kartu itu tidak mengatakan apa pun tentang adapter, dukungan LoRA, atau resep fine-tuning. Itulah profil checkpoint yang dipublikasikan untuk di-serve, bukan untuk dilatih. Menafsirkan ketiadaan bukti sebagai bukti adalah kesalahan, tetapi asimetri ini perlu disebut: satu kartu memasarkan dirinya kepada para fine-tuner, yang lain memasarkan dirinya kepada para deployer.

Satu catatan kejujuran lagi soal angka. Liquid menerbitkan tabel evaluasi lengkap untuk pascapelatihan LFM2.5-2.6B terhadap Gemma 4 E2B dan E4B serta Qwen3.5-4B dan 9B, dan tabel itu tidak dapat dialihkan ke checkpoint base — model base yang dinilai pada benchmark pengikutan instruksi mengukur hal yang berbeda dari model pascapelatihan yang dinilai pada benchmark yang sama. NVIDIA menerbitkan tabel benchmark untuk Dory terhadap Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B dan Qwen3.6-35B-A3B, yang diukur pada harness miliknya sendiri, tanpa reproduksi independen. Tidak ada hasil harness bersama untuk Dory dan salah satu checkpoint LFM, dan tidak ada perbandingan head-to-head yang diterbitkan sama sekali.

Menjalankannya di perangkat keras asli

Kisah edge adalah di mana keduanya paling tajam menyimpang dalam praktik, dan Liquid memenangkannya dengan jelas. Keluarga LFM2.5 dibangun untuk penerapan di perangkat — saudara instruct 2.6B-nya diukur pada 220 token per detik di Apple M5 Max dan 113 di Ryzen AI Max+ 395, dalam memori di bawah 2.5 GB, dengan angka kelas ponsel sekitar 30 token per detik yang diklaim. Ada build ONNX dan MLX dalam keluarga ini dan drafter spekulatif 328M, DSpark, yang menurut perusahaan memberikan decoding sekitar 2.6× lebih cepat dengan output identik. Jika target Anda adalah laptop, mini-PC, atau ponsel, LFM2.5-2.6B-Base berada di sisi yang benar dari garis itu dan Dory tidak jelas dirancang untuk itu.

Jalur serving Dory lebih sempit dan lebih baru. Dukungan vLLM sedang ditinjau dalam pull request terbuka, dan sampai pull request itu di-merge, kartu tersebut memberi tahu Anda untuk menginstal vLLM dari cabang itu dengan flag kernel yang telah dikompilasi sebelumnya, lalu menjalankan serving dengan override yang mengatur jumlah loop dan mode KV-cache. Dukungan llama.cpp berada di pull request terbuka kedua, dengan commit yang dipin dan instruksi build yang menargetkan macOS ARM64 native di Apple Silicon. Angka kecepatan yang dipublikasikan NVIDIA adalah percepatan kuantisasi pada DGX Spark, bukan throughput: 1,69× dan 1,84× untuk MXFP8 dibanding BF16 tergantung pada campuran panjang input/output, 2,17× dan 2,44× untuk NVFP4.

Penyeimbangnya, dan ini benar-benar penyeimbang yang asli, adalah desain memorinya. Looping standar menyimpan KV cache terpisah per loop, sehingga memori meningkat dengan setiap pass tambahan — yang menjadi alasan umum arsitektur rekuren canggung untuk dilayani. Dory mendukung mode KV-caching loop terakhir yang menyimpan satu cache per lapisan attention rekuren dan menimpanya pada setiap pass, sehingga jejak memorinya tetap sekitar ukuran satu loop untuk berapa pun jumlah loop. NVIDIA mengatakan akurasi tetap mendekati mode per loop dengan panjang keluaran yang nyaris tidak berubah. Klaim itu adalah hal paling berharga di kartu Dory untuk diverifikasi, karena jika klaim itu bertahan, jendela 256K terjangkau pada lebih dari satu loop, dan jika tidak, fitur elastic-depth jauh lebih tidak berguna daripada kedengarannya.

Apa yang router lakukan dan tidak lakukan di sini

Tidak ada satu pun model yang ada di katalog OrcaRouter. NVIDIA Nemotron Labs Dory 1.0 4B hanya berupa bobot tanpa endpoint yang di-hosting di mana pun yang dapat kami konfirmasi, dan LFM2.5-2.6B-Base adalah checkpoint fine-tuning yang tidak akan secara masuk akal disajikan apa adanya oleh platform mana pun — saudara sejawatnya yang telah dilatih lanjut itulah yang cocok berada di belakang API. Di katalog kami juga tidak ada model LFM2.5 yang di-hosting, jadi pernyataan yang akurat adalah yang membosankan: untuk perbandingan ini, semuanya berjalan di perangkat keras Anda.

Yang justru merupakan saat ketika lapisan perutean berhenti menjadi perpipaan opsional dan mulai menjadi alat pengujian. Menjalankan eksperimen fine-tuning pada checkpoint dasar dan eksperimen penyajian pada 4B yang diloop berarti dua tumpukan lokal, dua set kuantisasi, dua set flag penyajian, dan tidak ada cara yang bersih untuk membandingkan keduanya dengan model hosted yang merupakan baseline sebenarnya untuk aplikasi Anda. OrcaRouter ada untuk bagian kedua itu: satu kunci API menjangkau model hosted yang akan Anda jadikan tolok ukur pada harga daftar penyedia dengan markup 0%, sehingga kelompok kontrol tidak memerlukan SDK-nya sendiri atau kontraknya sendiri. DSL perutean memungkinkan endpoint yang dihosting sendiri dan endpoint hosted berada di balik satu panggilan, dan failover otomatis menjaga proses evaluasi yang panjang tetap berjalan saat kumpulan GPU lokal sedang sibuk. Ini tidak akan memberi tahu Anda apakah checkpoint dasar Liquid melakukan fine-tuning lebih baik daripada penyajian model jadi NVIDIA. Ini menghilangkan biaya penyiapan untuk mengetahuinya.

Memilih di antara mereka

Ambil LFM2.5-2.6B-Base jika Anda membeli titik awal, bukan jawaban: Anda punya data pelatihan, Anda membutuhkan bahasa yang tidak dikuasai Dory, Anda ingin menjalankannya di Apple Silicon atau NPU, atau Anda menginginkan jalur speculative decoding serta build ONNX dan MLX yang disertakan dalam keluarga ini. Ini adalah artefak yang lebih kecil, lebih cepat, lebih multibahasa, lebih terhubung dengan ekosistem, dan jujur tentang belum selesainya.

Ambil N​VIDIA N​emotron Labs Dory 1.0 4B jika Anda membeli perilaku yang sudah diterapkan: Anda menginginkan model penalaran yang sudah selesai dengan pelatihan pemanggilan alat dan keluaran terstruktur yang sudah ada di dalamnya, Anda hanya berbahasa Inggris, konteks Anda panjang, dan Anda bersedia membangun vLLM atau llama.cpp dari sebuah branch hari ini sebagai imbalan dial komputasi yang tidak diberikan model dense konvensional kepada Anda. Terimalah bahwa Anda akan menjadi salah satu orang pertama di luar N​VIDIA yang menjalankannya, bahwa setiap angka pada kartunya adalah angka vendor, dan bahwa klaim KV-cache loop terakhir — satu-satunya fitur yang membuat seluruh desain ini praktis — belum diverifikasi.

Perbandingan yang benar-benar informatif adalah Dory 1.0 4B versus LFM2.5-2.6B pasca-pelatihan, dan belum ada yang menerbitkannya. Jika model instruksi 2.6B milik Liquid dan 4B elastic-depth milik NVIDIA akhirnya hanya berselisih beberapa poin pada beban kerja Anda, maka faktor penentunya menjadi perbedaan memori 2.69B-versus-4B dan kesenjangan kematangan, bukan arsitekturnya. Itulah eksperimen yang layak dijalankan, dan menjalankannya lebih murah daripada minggu lalu.

Tidak ada satu pun dari itu yang hipotetis: kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda status diperdebatkan.