NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: Tiga Kali Lipat Parameter, Pekerjaannya Tidak Sama Sedikit Pun

Cara yang jelas untuk membaca perbandingan antara N​VIDIA N​emotron Labs Dory 1.0 4B dan G​emma 4 12B adalah sebagai adu ukuran — 4B melawan 12B, kecil melawan kelas menengah — dan kerangka itu menyia-nyiakan perbandingan tersebut, karena kedua model tidak menerima masukan yang sama, tidak memiliki posisi lisensi yang sama, dan tidak menjadi lebih cepat dengan cara yang sama. Dory adalah jaringan berulang yang hanya teks dan hanya bahasa Inggris, yang ciri khasnya adalah satu unduhan melayani beberapa anggaran komputasi. G​emma 4 12B adalah model multimodal sebarang-ke-sebarang yang menerima teks, gambar, dan audio melalui satu tumpukan tanpa encoder dan mengembalikan teks. Selisih parameter itu nyata, tetapi itulah perbedaan yang paling tidak informatif di antara keduanya. Berikut ini yang sebenarnya membedakan keduanya, termasuk bagian-bagian yang belum ada yang menjalankan eksperimennya.

Apa masing-masingnya, dalam satu kali proses

N​VIDIA N​emotron Labs Dory 1.0 4B adalah model dense 4B yang dilatih oleh N​VIDIA dan dipublikasikan ke Hugging Face dalam empat kuantisasi — BF16, MXFP8, NVFP4, dan Q5_K_M GGUF — di bawah lisensi OpenMDW 1.1. Kartunya mencantumkan build "GA (10/16/2026)". Model ini menangani teks masuk dan teks keluar, hanya bahasa Inggris, dengan konteks hingga 256K token. Arsitekturnya adalah intinya: blok rekuren 20 lapis yang diterapkan sejumlah kali variabel di antara blok input 8 lapis dan blok output 8 lapis, sehingga jumlah loop menjadi kenop saat serving, bukan keputusan saat pelatihan. N​VIDIA merekomendasikan dua loop sebagai default dan empat saat akurasi agentic lebih penting. Tidak ada pengumuman tentang rilis ini; repositori diisi dalam semalam dan vendor tidak menerbitkan pos pendamping.

Gemma 4 12B adalah model multimodal padat 11,95B milik Google DeepMind, Apache 2.0, konteks 256K, 48 lapisan dengan atensi hibrida dan jendela geser 1024 token, serta kosakata 262K. Model ini digambarkan sebagai tanpa encoder: patch gambar dan bentuk gelombang audio diproyeksikan langsung ke ruang embedding model bahasa, bukan melalui encoder penglihatan dan audio terpisah. Teks, gambar, dan audio masuk; teks keluar. Video ditangani sebagai frame yang disampel, dengan kartu model membatasi audio pada sekitar 30 detik dan video pada sekitar 60 detik dengan kira-kira satu frame per detik. Model ini mendukung mode berpikir yang dapat dikonfigurasi dan peran sistem native, dan telah tersedia untuk publik serta banyak diunduh sejak pertengahan 2026.

Satu klarifikasi yang perlu dibuat sebelum angka apa pun muncul: Dory hadir dalam empat varian dan varian yang ID repositorinya paling sering dikutip adalah build MXFP8, tetapi tolok ukur yang dipublikasikan NVIDIA diukur pada BF16. Checkpoint MXFP8 adalah kuantisasi dari bobot yang sama, bukan model yang berbeda.

Masalah tolok ukur: kedua ini belum pernah diadu satu sama lain

Inilah bagian yang biasanya ditutupi-tutupi oleh artikel perbandingan, jadi layak dinyatakan secara tegas. Tidak ada hasil harness bersama untuk Dory 1.0 4B dan Gemma 4 12B. Tabel benchmark NVIDIA untuk Dory membandingkannya dengan Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B dan Qwen3.6-35B-A3B — tabel itu menggunakan 26B Gemma, bukan 12B, dan sama sekali tidak menyertakan 12B. Angka yang dipublikasikan Google untuk 12B berasal dari harness yang berbeda, terhadap kumpulan pembanding yang berbeda, dalam dokumen yang diterbitkan beberapa bulan sebelumnya dan mencakup campuran tugas yang berbeda.

Menempatkan angka dari kedua kartu secara berdampingan menghasilkan tabel yang tampak berwibawa dan tidak berarti apa-apa, karena selisih dua poin antara dua harness bukanlah selisih dua poin antara dua model. Jadi versi jujurnya adalah ini: kartu milik Dory sendiri mengklaim perilaku agentik yang kira-kira setara kelas Qwen3.5-9B pada empat loop, tetapi tertinggal dari setiap pembandingnya sendiri pada benchmark yang berat pengetahuan, dan kartu Gemma 4 12B mengklaim profil multimodal dengan jendela 256K serta varian yang disetel instruksi di seluruh lini Gemma 4. Apakah salah satu klaim itu bertahan saat bersinggungan dengan kumpulan tugas pihak lain belum diuji.

Di mana mereka benar-benar tumpang tindih, dan di mana tumpang tindih itu berakhir

Empat dimensi berperan penting bagi sebuah keputusan yang sesungguhnya, dan masing-masing mengarah ke arah yang berbeda.

• Modalitas — G​emma 4 12B menerima teks, gambar, dan audio. Dory 1.0 4B menerima teks. Ini bukan kesenjangan benchmark yang bisa ditutup oleh harness; ini adalah kemampuan yang dimiliki satu model dan tidak dimiliki model lainnya, dan jika beban kerja Anda memiliki tangkapan layar, halaman hasil pemindaian, atau klip suara di mana pun di dalamnya, perbandingannya sudah berakhir.

• Bahasa — Dory hanya mendukung bahasa Inggris. Lini Gemma 4 bersifat multibahasa, dan kartu 12B-nya memuat evaluasi multibahasa serta hasil ucapan termasuk tolok ukur terjemahan non-Inggris. Adanya bahasa kedua di mana pun dalam produksi menggugurkan Dory.

• Konteks — keduanya mengiklankan 256K, dan ini satu-satunya tempat spesifikasi benar-benar cocok. Kartu Dory menyatakan 262.144 posisi divalidasi di vLLM dengan perintah peluncuran yang disertakan; G​emma 4 12B menyatakan 256K dengan jendela geser 1024 token di dalam tumpukan atensi hibrida. Evaluasi konteks panjang yang dipublikasikan tersedia untuk G​emma; bagi Dory, satu-satunya baris konteks panjang adalah milik N​VIDIA sendiri, diukur dengan kunci jawaban yang dikoreksi dan model penilai yang lebih lama, yang diungkapkan oleh kartu tersebut.

• Perilaku komputasi — ini adalah keunggulan asimetris Dory dan sama sekali tidak ada hubungannya dengan kualitas. Gemma 4 12B adalah model dense konvensional: kedalaman tetap, biaya per token tetap, skala perangkat keras atau perpendek konteks untuk mengubah tagihan. Kedalaman Dory adalah parameter runtime. Jalankan pada satu loop ketika latensi menjadi kendala dan pada empat loop ketika akurasi yang diutamakan, tanpa mengunduh checkpoint kedua. NVIDIA juga menyertakan mode KV-caching loop terakhir yang dimaksudkan untuk menjaga jejak cache kira-kira seukuran satu loop terlepas dari jumlah loop, yang — jika terbukti — menghilangkan keberatan standar terhadap arsitektur rekuren. Itu adalah klaim dalam kartu yang paling layak diperiksa secara independen.

• Lisensi — OpenMDW 1.1 untuk Dory, Apache 2.0 untuk G​emma 4 12B. Keduanya mengizinkan penggunaan komersial. Jika tinjauan hukum Anda menganggap Apache 2.0 sebagai jalur dengan hambatan paling kecil, G​emma memulai dengan keunggulan yang tidak ada hubungannya dengan bobot.

Menjalankannya: yang satu rutin, yang lainnya adalah build

G​emma 4 12B adalah unduhan berformat standar keluarga L​lama. Formatnya Transformers, ia berjalan di mesin yang sudah Anda miliki, dan build terkuantisasi — varian QAT GGUF dan w4a16 — sudah tersedia untuk publik tak lama setelah model itu sendiri.

Dory 1.0 4B belum sampai ke titik itu, dan kartunya mengatakan demikian dengan gamblang. Dukungan vLLM berada dalam status "under review" di sebuah pull request terbuka; sampai PR itu di-merge, Anda menginstal vLLM dari branch tersebut dengan flag precompiled-kernel lalu meneruskan override loop-count dan KV-cache saat serve. Dukungan llama.cpp ada di pull request terbuka kedua, dan NVIDIA menyematkan commit tertentu alih-alih head yang bergerak, yang merupakan pilihan tepat untuk setup referensi tetapi tetap berarti membangun dari source. Tidak ada endpoint hosted untuk Dory di mana pun yang dapat kami verifikasi — baik dari NVIDIA maupun dari siapa pun — dan penghitung unduhan di keempat repositorinya masih nol saat ini ditulis. Gemma 4 12B, sebaliknya, telah diunduh jauh lebih dari satu juta kali dalam sebulan terakhir dan memiliki ekosistem finetune dan kuantisasi yang dibangun di atasnya. Kesenjangan kematangan itu, bagi sebagian besar tim, lebih besar daripada selisih benchmark apa pun pada kartu mana pun.

Spesifikasi perangkat keras minim di kedua sisi. Satu-satunya angka kecepatan Dory yang dipublikasikan NVIDIA adalah percepatan kuantisasi pada DGX Spark — 1,69× dan 1,84× untuk MXFP8 dibandingkan BF16, bergantung pada campuran input/output; 2,17× dan 2,44× untuk NVFP4 — bukan angka throughput. Untuk Gemma 4 12B, pertanyaan terkait, yaitu VRAM pada panjang konteks tertentu, dapat dijawab dari pengukuran komunitas selama setahun alih-alih dari kartunya.

Saat router mulai berperan, sejujurnya

Tidak satu pun dari model-model ini yang kami layani, dan mengatakan demikian lebih berguna daripada menyiratkan sebaliknya. NVIDIA Nemotron Labs Dory 1.0 4B tidak ada di katalog OrcaRouter dan tidak memiliki endpoint yang dihosting di mana pun; Gemma 4 12B secara khusus juga tidak ada di katalog, meskipun saudara-saudaranya yang lebih besar google/gemma-4-26b-a4b-it dan google/gemma-4-31b-it ada.

Yang tersisa adalah bentuk praktis dari keputusan itu. Jika Anda memilih antara 4B yang harus Anda host sendiri dan 12B yang bisa Anda sewa, sisi yang di-host sendiri membawa tagihan GPU dan beban operasional yang tidak dimiliki sisi sewaan, dan satu-satunya cara untuk menilai itu secara jujur adalah menjalankan keduanya terhadap kumpulan tugas Anda sendiri. OrcaRouter berguna untuk separuh eksperimen itu yang di-host: satu kunci API menjangkau model Google berbobot terbuka yang memang kami sediakan, dengan harga daftar penyedia dengan markup 0%, sehingga perbandingan tidak memerlukan kontrak kedua atau SDK kedua. Failover otomatis menutupi jendela ketika kumpulan GPU Anda sendiri jenuh di tengah benchmark, dan DSL routing memungkinkan panggilan yang di-host sendiri dan panggilan yang di-host berada di belakang satu endpoint, sehingga berpindah sisi hanyalah perubahan konfigurasi, bukan penulisan ulang. Semua itu tidak memberi tahu Anda model mana yang menang. Itu menghapus alasan untuk tidak mengetahuinya.

Jadi yang mana

Jika tugas Anda hanya teks, hanya bahasa Inggris, dan berkonteks panjang, dan terlebih lagi jika bersifat agentik — pemanggilan alat, alur kerja multi-langkah, keluaran terstruktur — Dory 1.0 4B adalah taruhan yang lebih menarik dan yang arsitekturnya memberi Anda sesuatu yang tidak dapat ditawarkan 12B: tombol komputasi. Ambil taruhan itu dengan mata terbuka tentang kesenjangan kematangan, dua pull request yang belum digabungkan, tidak adanya evaluasi independen sama sekali, dan fakta bahwa kartunya sendiri menempatkannya di belakang setiap pembanding pada GPQA dan HLE.

Jika tugas Anda melibatkan gambar, suara, bahasa kedua, atau tenggat produksi dalam bulan depan, G​emma 4 12B adalah jawabannya dan perbandingannya tidak pernah mendekati. Model ini lebih besar, lebih mahal, dan lebih mumpuni dengan ekosistem di belakangnya serta tanpa langkah build di depannya.

Hal yang perlu diperhatikan bukanlah angka benchmark — melainkan apakah pull request vLLM dan llama.cpp di-merge. Pada hari Dory dimuat dari biner yang dirilis alih-alih dari branch, sisi self-hosting dari perbandingan ini berhenti menjadi proyek dan mulai menjadi perubahan konfigurasi. Sampai saat itu, penilaian yang jujur adalah bahwa salah satu dari model ini adalah produk dan yang lainnya adalah repositori yang muncul dalam semalam, dan mana yang Anda inginkan sepenuhnya bergantung pada apakah Anda sedang merilis atau menguji.

Tidak ada satu pun dari itu yang hipotetis: kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda status diperdebatkan.