NVIDIA Nemotron Labs Dory 1.0 4B vs Qwen 3.8: 4B Berbobot Terbuka Melawan Lini Tiga Tingkat Alibaba

Membandingkan NVIDIA Nemotron Labs Dory 1.0 4B dengan "Qwen 3.8" bukanlah pertandingan — ini adalah ketidakcocokan dengan cara yang spesifik dan instruktif. Qwen 3.8 bukan satu model; di ujung berbobot terbuka, ia adalah Qwen3.8-27B, model multimodal padat 27B di bawah Apache 2.0 dengan jendela 256K, dan di atasnya ada Qwen3.8-Flash dan Qwen3.8-Max, keduanya lebih besar, keduanya hanya dilayani melalui API Alibaba. Dory adalah checkpoint 4B tunggal, hanya teks, hanya bahasa Inggris dari NVIDIA, yang diterbitkan ke Hugging Face dalam empat kuantisasi di bawah lisensi OpenMDW 1.1 dengan kartunya bertanda "GA (10/16/2026)" dan tanpa pengumuman di belakangnya. Jadi pertanyaan sebenarnya bukanlah apakah 4B dapat mengalahkan 27B. Pertanyaannya adalah apakah 4B dengan kedalaman elastis yang Anda host sendiri merupakan cara yang lebih murah untuk mencapai tingkat tugas yang jika tidak, akan Anda sewa dari lini Qwen3.8 — dan dua fakta yang paling relevan untuk pengambilan keputusan adalah bahwa Qwen3.8-27B berbobot terbuka, sehingga kedua model berjalan di perangkat keras Anda, dan bahwa kartu Dory sendiri sama sekali tidak menyertakan benchmark terhadap model Qwen3.8 mana pun.

Apa yang sebenarnya sedang dibandingkan?

Mulai dari sisi Qwen, karena "Qwen 3.8" merangkum tiga proposisi yang berbeda.

Qwen3.8-27B adalah model visi-bahasa dense berbobot terbuka milik Alibaba, Apache 2.0, 27B parameter, 64 lapisan, dimensi tersembunyi 5.120, dengan konteks native 262.144 token yang menurut kartunya dapat diperluas hingga satu juta. Model ini menerima teks, gambar, dan video serta mengembalikan teks, menggunakan tata letak hybrid Gated DeltaNet dan Gated Attention pada 16 blok berulang, dan tersedia dalam format Transformers dengan dukungan untuk vLLM, SGLang, dan TokenSpeed. Model ini melaporkan angka 90,3 pada LiveCodeBench v6, 89,2 pada GPQA Diamond, 79,5 pada IFBench, dan 73,0 pada Terminal-Bench 2.1, di antara daftar panjang hasil agentik dan visi. Model ini telah tersedia untuk publik sejak pertengahan Agustus 2026 dan telah diunduh beberapa juta kali.

Qwen3.8-Flash dan Qwen3.8-Max adalah tier yang dihosting. Flash adalah model multimodal yang dioptimalkan untuk biaya dengan konteks satu juta token; Max adalah andalan Alibaba, juga satu juta token, diposisikan untuk bersaing dengan model proprietary terkuat. Keduanya tidak memiliki bobot terbuka. Anda mengaksesnya melalui API.

N​VIDIA N​emotron Labs Dory 1.0 4B adalah model 4B. Dense, looped, latent-recurrent — blok masukan 8 lapis, blok rekuren 20 lapis yang diterapkan dalam jumlah yang bervariasi, blok keluaran 8 lapis — dengan atensi sliding-window dan penuh yang diselang-seling secara hibrida. Teks masuk, teks keluar, hanya bahasa Inggris, konteks 256K. Dilatih awal pada 6 triliun token, sekitar 4,5 triliun token pertama secara native dalam NVFP4, ditambah ekstensi konteks 300 miliar token, lalu SFT dan GRPO multi-lingkungan. Tidak ada endpoint terhosting untuk model ini yang dapat kami verifikasi.

Satu hal yang perlu dipahami dengan benar, karena ini sering menjebak orang: NVIDIA merilis Dory dalam BF16, MXFP8, NVFP4, dan Q5_K_M GGUF. ID repositori kanonisnya adalah yang MXFP8, tetapi benchmark di kartu tersebut diukur pada BF16. MXFP8 adalah kuantisasi dari bobot yang sama, bukan model yang berbeda.

Kontras spesifikasi

• Parameter — Dory 1.0 4B adalah 4B dense, dengan blok rekuren yang diterapkan secara berulang sehingga komputasi efektif per token pada empat loop melebihi jumlah parameternya. Qwen3.8-27B adalah 27B dense dengan menara visi. Keduanya tidak berada dalam kelas bobot yang sama dan hanya salah satunya yang cocok untuk deployment memori kecil.

• Modalitas — Qwen3.8-27B menerima gambar dan video juga teks. Dory menerima teks. Beban kerja apa pun yang mengandung gambar berakhir di sini.

• Konteks — keduanya mengiklankan 256K. Kartu Qwen3.8-27B menyebutkan 262.144 posisi native yang dapat diperluas hingga sekitar satu juta; kartu Dory menyebutkan hingga 256K dengan 262.144 yang tervalidasi di vLLM di bawah perintah peluncuran yang disertakan. Qwen3.8-Flash dan Max keduanya mencapai satu juta token secara langsung.

• Lisensi — Apache 2.0 untuk Qwen3.8-27B, OpenMDW 1.1 untuk Dory. Keduanya ramah komersial; Apache 2.0 adalah teks yang lebih dikenal.

• Bahasa — Qwen3.8-27B bersifat multibahasa secara garis keturunan; Dory hanya bahasa Inggris dengan 43 bahasa pemrograman dalam campuran pra-pelatihannya.

• Perilaku komputasi — ini satu-satunya baris di mana Dory memiliki sesuatu yang secara struktural tidak dapat ditawarkan oleh Qwen3.8-27B. Kedalaman Dory adalah parameter saat serving: satu loop untuk latensi, dua sebagai default yang direkomendasikan NVIDIA, empat ketika akurasi agentik lebih penting, semuanya dari satu checkpoint, dengan mode KV-caching loop terakhir yang dimaksudkan untuk menjaga memori cache tetap sekitar ukuran satu loop terlepas dari jumlah loop. Qwen3.8-27B memiliki kedalaman tetap; tuasnya adalah kuantisasi dan perangkat keras.

• Format — Dory menyediakan empat kuantisasi termasuk GGUF untuk llama.cpp. Qwen3.8-27B memiliki repositori FP8 terpisah dan ekosistem turunan kuantisasi serta finetune yang sangat besar, itulah yang Anda dapatkan dari beberapa juta unduhan.

Pertanyaan benchmark yang dihindari tabel N​VIDIA sendiri

Inilah detail yang tidak nyaman. Tabel tolok ukur NVIDIA untuk Dory membandingkannya dengan Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B, dan Qwen3.6-35B-A3B. Tabel itu menggunakan dua generasi Qwen sebelumnya dan tidak pernah menyentuh Qwen3.8. Itu pilihan yang bisa dipertahankan untuk model 4B — Qwen3.8-27B hampir tujuh kali ukurannya — tetapi itu berarti produsen sama sekali tidak memiliki perbandingan langsung yang dipublikasikan terhadap generasi Qwen saat ini, di kedua arah. Adapun kartu Qwen3.8-27B milik Alibaba, tolok ukurnya adalah terhadap frontier proprietary, bukan terhadap model 4B.

Apa yang diterbitkan oleh kartu Dory, dibandingkan dengan pembanding-pembandingnya yang lebih lama, jujur tentang di mana looping membuahkan hasil. Bacalah di ketiga pengaturan loop-nya terhadap Qwen3.5-4B dan Qwen3.5-9B:

• SWE-bench Verified — 50,3 / 59,5 / 61,8 dibandingkan dengan 54,7 dan 61,0. Pada empat loop, Dory secara nominal mengalahkan Q​wen 9B pada baris ini.

• Terminal-Bench 2.1 — 12.5 / 18.1 / 22.2 melawan 15 dan 24. Ia kalah dari keduanya, termasuk 4B.

• τ³-bench (Perbankan) — 11,6 / 12,89 / 14,69 dibandingkan dengan 5,03 dan 7,22. Dory lebih dari dua kali lipat Qwen 4B dan sekitar dua kali lipat Qwen 9B.

• GPQA Diamond, tanpa alat — 69,19 / 72,41 / 72,16 dibandingkan dengan 77,71 dan 80,93. Ini kalah dari keduanya.

• IFBench — 74.29 / 77.94 / 79 dibandingkan dengan 53.83 dan 59. Kemenangan besar dalam mengikuti instruksi.

• AA-LCR — 63 / 71 / 73 dibandingkan dengan 64,7 dan 68,4. Pengambilan konteks panjang meningkat tajam dengan loop dan akhirnya unggul.

• AA-Omniscience — 10.03 / 10.08 / 10.03 dibandingkan dengan 15.02 dan 18.05. Pengetahuan yang tersimpan nyaris tidak berubah seiring jumlah loop, yang merupakan pemeriksaan kewajaran yang dilalui oleh bagian lain dari tabel tersebut.

Setiap angka tersebut adalah milik NVIDIA, diukur pada perangkat uji NVIDIA, dengan jumlah pengulangan yang diungkapkan — SciCode delapan kali, AA-LCR enam belas kali, beberapa tolok ukur tepat satu kali — dan kartu tersebut melabeli skor berbentuk Artificial-Analysis miliknya sebagai "perkiraan internal" yang mungkin menyimpang dari yang resmi. Tidak ada satu pun dari itu yang direproduksi.

Sekarang letakkan kartu Qwen3.8-27B di sebelahnya. Angka yang dilaporkan, 89,2 pada GPQA Diamond, 79,5 pada IFBench, dan 73,0 pada Terminal-Bench 2.1, semuanya di atas angka terbaik Dory pada tolok ukur yang sama, yang persis seperti yang Anda harapkan dari model tujuh kali lebih besar dengan pipeline pelatihan yang dua generasi lebih baru. Tidak ada skenario di mana model 4B mengalahkan model 27B yang dieksekusi dengan baik pada tolok ukur pengetahuan atau penalaran, dan Dory tidak mengklaim demikian. Yang diklaim Dory adalah hal yang berbeda: bahwa pada 4B ia mencapai perilaku agentik setingkat 9B, dan bahwa Anda dapat memilih berapa banyak komputasi yang ingin dibelanjakan pada skala tersebut.

Penyebaran: kesenjangannya tidak dekat, dan ini bukan soal kualitas.

Qwen3.8-27B adalah rilis open-weight yang normal. Format Transformers, dukungan yang tercantum untuk vLLM, SGLang, dan TokenSpeed, saudara FP8, serta ekosistem yang telah menghasilkan jauh lebih dari seribu kuantisasi dan ratusan finetune sejak Agustus. Jika stack Anda menjalankan model open-weight modern, stack itu menjalankan model ini, dan satu-satunya kendala nyata adalah memori — 27B dense pada BF16 bukan model untuk mesin kecil, tetapi varian terkuantisasi ada justru untuk itu.

Dory justru sebaliknya. Dukungan vLLM sedang ditinjau dalam pull request terbuka; sampai pull request itu di-merge, NVIDIA memberi tahu Anda untuk memasang vLLM dari cabang itu dengan flag precompiled-kernel lalu menjalankannya dengan override yang mengonfigurasi jumlah loop rekuren dan mode KV-cache. Dukungan llama.cpp ada di pull request terbuka kedua dengan commit yang dipin dan petunjuk build ARM64 macOS. Tidak ada endpoint yang dihosting untuk Dory di mana pun yang dapat kami verifikasi, dan penghitung unduhan di keempat repositori berada di angka nol saat tulisan ini dibuat. Angka kecepatan yang dipublikasikan terbatas pada percepatan kuantisasi pada DGX Spark — 1,69× dan 1,84× untuk MXFP8 dibanding BF16, 2,17× dan 2,44× untuk NVFP4, bergantung pada campuran panjang input/output — bukan throughput.

Dibandingkan dengan itu, klaim memori di kartu Dory adalah satu bagian rekayasa yang dapat membenarkan ketidaknyamanan tersebut. Perulangan rekuren standar menyimpan cache KV terpisah per loop, sehingga memori bertambah setiap pass. Mode cache KV loop terakhir milik Dory menyimpan satu cache per lapisan attention rekuren dan menimpanya setiap pass, menjaga jejak memori tetap sekitar ukuran satu loop untuk berapa pun jumlah loop, dengan akurasi yang menurut N​VIDIA tetap mendekati mode per-loop. Jika itu tetap berlaku saat diukur pihak lain, model 4B dengan jendela 256K dan empat loop menjadi praktis pada perangkat keras yang jika tidak, tidak akan mampu menjalankannya. Belum ada pihak di luar N​VIDIA yang memeriksanya.

Di mana OrcaRouter sebenarnya berada dalam perbandingan ini

Ini adalah perbandingan langka di mana kami dapat bersikap spesifik, karena kedua sisi berada pada pijakan yang berbeda di sini. Sisi Qwen ada di katalog kami: qwen/qwen3.8-27b adalah self-hosted di infrastruktur milik OrcaRouter sendiri, dan qwen/qwen3.8-flash dan qwen/qwen3.8-max dapat diakses sebagai endpoint yang dihosting, semuanya melalui satu kunci API dengan harga daftar penyedia dengan markup 0%. Sisi NVIDIA tidak — NVIDIA Nemotron Labs Dory 1.0 4B tidak ada di katalog dan tidak memiliki endpoint yang dihosting di mana pun yang dapat kami konfirmasi.

Asimetri itu memang benar-benar berguna, bukan canggung. Argumen untuk model kecil yang di-self-host adalah argumen biaya, dan argumen biaya membutuhkan harga sewa yang menjadi pembandingnya. Tiga tier Qwen3.8 memiliki harga yang sangat berbeda — 27B di $0,33 per juta token input dan $2,40 per juta output, Flash di $0,15 dan $0,47, Max di $2,00 dan $6,00 — jadi versi jujur dari "bisakah 4B menggantikan ini" punya tiga jawaban berbeda tergantung tier mana yang benar-benar Anda pakai saat ini. Satu kunci OrcaRouter saja menjangkau ketiganya, jadi menghitung biaya pertanyaan itu tidak memerlukan tiga akun. Karena kami meneruskan harga daftar penyedia tanpa markup, perubahan harga Qwen langsung terlihat di sini pada hari yang sama. Dan saat Anda memilih satu tier, failover otomatis antarpenyedia serta routing DSL — yang memungkinkan Anda menyusun model di balik satu panggilan — membuat peralihan dari Qwen terkelola ke Dory yang di-self-host, atau sebaliknya, hanyalah perubahan konfigurasi di satu titik panggilan, bukan refactor. Kami tidak menyediakan Dory; kami adalah cara murah untuk mengukur apa yang akan digantikannya.

Putusan

Jika beban kerja Anda multimodal, multibahasa, atau berat pengetahuan — apa pun yang mengharuskan model mengetahui berbagai hal alih-alih melakukan berbagai hal — Qwen3.8-27B adalah jawaban berbobot terbuka dan perbandingannya tidak kompetitif. Ukurannya tujuh kali lebih besar, dua generasi lebih baru, didukung oleh ekosistem turunan yang besar, berjalan di mesin yang sudah mendukungnya, dan kartunya sendiri mengklaim angka yang tidak bisa didekati Dory pada GPQA atau tolok ukur instruksi. Sewa Flash atau Max sebagai gantinya jika Anda lebih memilih untuk tidak meng-host 27B sama sekali.

Dory 1.0 4B adalah taruhan pada sumbu yang berbeda. Friksi build-from-a-branch itu sepadan hanya jika tiga hal ini benar bagi Anda: tugasnya hanya teks dan hanya bahasa Inggris, tugasnya bersifat agentic, bukan digerakkan oleh pengetahuan, dan Anda benar-benar akan menggunakan dial komputasi — menjalankan satu loop di bawah beban dan empat saat akurasi penting, dari satu checkpoint, tanpa unduhan kedua. Kartunya mengklaim bahwa taruhan itu membuahkan hasil pada τ³-Bench dan kepatuhan terhadap instruksi di 4B, dan kartu itu mengungkapkan cukup banyak tentang bagaimana angka-angka itu dihasilkan sehingga Anda dapat mendiskonnya secara semestinya.

Yang akan menyelesaikannya adalah uji yang belum pernah dijalankan siapa pun: Dory 1.0 4B melawan Qwen3.8-27B pada harness bersama, pada kuantisasi yang sama, pada set tugas agentik. Tabel NVIDIA melewatkan generasi Qwen saat ini sepenuhnya dan tabel Alibaba tidak melihat ke kelas bobot di bawahnya. Sampai seseorang menerbitkan perbandingan itu, posisi yang akurat adalah bahwa salah satu model ini adalah 27B yang terbukti, didukung, dan banyak digunakan, sedangkan yang lain adalah repositori 4B yang muncul dalam semalam dengan ide menarik di dalamnya — dan satu-satunya orang yang bisa mengatakan apakah ide itu layak dibangun adalah Anda, pada set tugas Anda.

Tidak ada satu pun dari itu yang hipotetis: kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda status diperdebatkan.