ZwZ2-4B vs Qwen3.8-27B: Spesialis 4,5B Bertemu Flagship 28B Qwen

Misalkan pipeline gambar Anda menjalankan 200.000 kueri sehari dan Anda memiliki satu kartu 16 GB. Batasan tunggal itu menyingkirkan Qwen3.8-27B sebelum benchmark apa pun dibahas: pada 28 miliar parameter, bobot BF16 saja sekitar 56 GB, dan tidak ada teknik penyajian secerdas apa pun yang dapat memuatnya ke 16 GB tanpa kuantisasi yang belum Anda anggarkan. ZwZ2-4B, dengan 4,54 miliar parameter dan file bobot 9,08 GB, muat. Jadi pertanyaan jujurnya bukanlah model mana yang lebih baik. Pertanyaannya adalah apakah kemampuan yang lebih sempit dari checkpoint kecil itu merupakan batasan nyata untuk beban kerja Anda, atau apakah Anda hampir saja membayar model unggulan untuk menjawab pertanyaan tentang crop foto produk.

Ada satu keanehan yang membuat pertarungan ini lebih aneh daripada yang disiratkan judul pendeknya. Generasi 3.8 Qwen tidak pernah merilis model di kelas ukuran ini. Anggotanya adalah model dense 27B dari 5 Agustus 2026, mixture-of-experts 2,4 triliun parameter dari 8 Agustus, dan Flash-Next pada 24 Agustus — yang, meskipun namanya demikian, merupakan model 180 miliar parameter pada keluarga arsitektur yang berbeda. Tidak ada model dense di bawah 27B. Jadi ZwZ2-4B lawan seukuran sebenarnya adalah Qwen3.5-4B, checkpoint Februari yang menjadi dasar fine-tuning-nya. Qwen3.8-27B masuk ke perbandingan ini sebagai batas atas, bukan sebagai tandingan setara.

Tidak ada tolok ukur yang dapat mempertemukan keduanya.

Mulailah dari hal yang membuat sebagian besar halaman perbandingan tidak jujur. Qwen3.8-27B memiliki evaluasi yang telah dipublikasikan dan ekosistem; ZwZ2-4B memiliki 25 hasil benchmark yang hanya ada di dalam kartu modelnya sendiri, dihasilkan oleh lab yang melatihnya, tanpa replikasi independen di mana pun. Anda tidak bisa menaruh angka 54.79 yang dilaporkan vendor di samping rangkaian benchmark dari lab lain lalu mengurangkannya. Kedua angka itu tidak dihasilkan pada tugas yang sama, pada resolusi yang sama, dengan harness yang sama.

Jadi artikel ini tidak memberi skor dengan mempertandingkan keduanya. Artikel ini membandingkan untuk apa masing-masing dirancang, berapa biaya menjalankannya masing-masing, dan apa yang harus dikorbankan oleh yang lebih kecil. Setiap angka yang muncul diberi label menurut siapa yang menghasilkannya.

Kesenjangan itu, dimensi demi dimensi

• Parameter — ZwZ2-4B 4,539,265,536 vs Qwen3.8-27B 28B pada kartunya

• Bobot di disk — sekitar 9,08 GB BF16 vs sekitar 56 GB BF16

• Kedalaman — 32 lapisan vs 64

• Lebar — ukuran tersembunyi 2.560 vs 5.120

• Bentuk attention — 16 head query terhadap 4 head KV pada dimensi head 256, pada keduanya

• Jadwal atensi — rasio linier terhadap penuh 3:1 pada keduanya

• Jendela konteks — 262.144 posisi di keduanya

• Kosakata — 248.320 token di keduanya

• Menara visi — 24 lapisan pada ukuran tersembunyi 1.024 vs 27 lapisan pada ukuran tersembunyi 1.152

• Lisensi — tidak dinyatakan untuk ZwZ2-4B vs Apache-2.0 untuk Qwen3.8-27B

Empat baris yang cocok adalah yang menarik. Kedua model mewarisi pengenal arsitektur yang sama, qwen3_5, dengan geometri attention yang sama dan batas atas konteks yang sama. Generasi 3.8 tidak mendesain ulang stack; ia menskalakannya. Itulah sebabnya konfigurasi 4B tampak seperti miniatur dari 27B alih-alih objek asing, dan juga sebabnya 4B mewarisi karakteristik serving 27B — lapisan attention linear-lah yang membuat konteks 262K terjangkau pada ukuran ini.

Satu-satunya angka yang benar-benar sebanding dalam seluruh pertandingan ini

Kartu ZwZ2-4B melaporkan model dasarnya pada 49,41 dan dirinya sendiri pada 54,79 di 25 tolok ukur, dengan kenaikan 5,38 poin. Itu adalah perbandingan antara dua checkpoint yang dilatih dan diukur dengan prosedur yang sama, pada tugas yang sama, oleh laboratorium yang sama. Ini masih dilaporkan vendor, dan pemilihan tolok ukur adalah milik laboratorium, tetapi setidaknya kedua sisi pengurangan tersebut sebanding.

Ada dua hal berikut. Pertama, peningkatan itu nyata hanya dalam arti bahwa laboratorium mengukurnya; belum ada yang mereproduksi 54.79. Kedua, dan lebih berguna, baseline-nya adalah model yang kuat. Qwen3.5-4B menarik 7,4 juta unduhan per bulan dan memiliki 1.145 suka — ini adalah checkpoint yang digunakan secara luas dengan ekosistem yang nyata. Jika ZwZ2-4B lebih baik 5,38 poin pada tugas-tugas yang berat persepsi, itu adalah selisih yang berarti dibandingkan model yang benar-benar dijalankan orang. Jika ia lebih baik 5,38 poin pada benchmark yang dipilih untuk memberi imbalan atas hal yang persis menjadi tujuan pelatihannya, delta di produksi akan lebih kecil.

Metode ini menjelaskan pembacaan mana yang lebih mungkin. ZwZ2 dilatih dengan GRPO pada pertanyaan pilihan ganda empat opsi yang dibangun dari potongan wilayah SA-1B — sekitar 20.000 di antaranya — tanpa tahap fine-tuning terawasi. Setiap sinyal pelatihan yang pernah dilihat model adalah pilihan empat arah tentang apakah suatu wilayah memuat bukti yang dibutuhkan sebuah pertanyaan. Beban kerja dengan bentuk seperti itu adalah tempat angka 5.38 seharusnya berlaku. Deskripsi terbuka bukan bentuk itu.

Apa yang bisa diberikan oleh flagship 28B tetapi tidak bisa diberikan oleh 4.5B

Qwen3.8-27B adalah model vision-language serbaguna: gambar, video, kontrol pemikiran yang fleksibel, lisensi Apache-2.0, dan ruang parameter yang cukup untuk menyerap diet pra-pelatihan yang luas alih-alih satu kurikulum sintetis sempit yang berkualitas tinggi. Jumlah unduhannya — 7,5 juta bulan lalu, dengan 18.500 suka — adalah sinyal ekosistem yang penting saat Anda memilih backbone alih-alih spesialis. Adaptor, kuantisasi, fine-tune, dan tooling tersedia untuknya dan tidak tersedia untuk checkpoint tanpa unduhan.

Keluasan itu terlihat pada mode kegagalannya. Kartu ZwZ2-4B mencantumkan halusinasi, salah membaca teks, kesalahan menghitung, dan kesalahan spasial, serta mencatat bahwa hasil bergantung pada resolusi gambar, panjang konteks, dan format prompt. Model generalis 28B pada prinsipnya memiliki kelas kegagalan yang sama, tetapi dengan kapasitas lebih besar untuk mempertahankan detail dalam konteks yang lebih panjang dan tanpa syarat bahwa tugasnya menyerupai pilihan empat opsi.

Untuk ekstraksi dokumen, penalaran multi-halaman, video, atau apa pun yang jawabannya berupa paragraf alih-alih wilayah, 27B adalah instrumen yang lebih baik dan perbedaan ukuran bukanlah faktor penentu — tujuan pelatihannya yang menentukan.

Aritmetika biaya, dengan harga nyata

Di sini perbandingannya tidak lagi abstrak. Di OrcaRouter, qwen/qwen3.8-27b dilayani dengan harga $0,33 per juta token input dan $2,40 per juta token output, dengan konteks 262K. Ambil contoh kueri gambar representatif dengan 1.500 token input dan 300 token output. Seribu kueri seperti itu biayanya sekitar $1,22 pada 27B. Model yang lebih ringan qwen/qwen3.8-flash, dengan harga $0,15 dan $0,47, berada di sekitar $0,37 untuk seribu kueri yang sama. Model visi 8B yang di-hosting berada di antara keduanya.

ZwZ2-4B tidak memiliki harga per token karena tidak memiliki endpoint terkelola — halaman Hugging Face melaporkan bahwa tidak ada penyedia yang melayaninya. Biayanya adalah berapa pun biaya GPU-jam Anda, dibagi dengan throughput, dan ini adalah satu-satunya opsi dalam perbandingan ini yang berjalan pada satu kartu 16 GB. Itulah seluruh argumen ekonomi untuk model yang lebih kecil, dan itu argumen yang kuat jika Anda sudah membayar perangkat kerasnya.

Satu poin struktural tentang perutean, karena ini memengaruhi cara Anda menguji hal ini. OrcaRouter meneruskan harga daftar penyedia dengan markup 0%, jadi ketika Qwen mengubah harga model Qwen yang dihosting, angka di atas berubah pada hari yang sama alih-alih pada pembaruan kontrak berikutnya. Menjalankan perbandingan biaya antara checkpoint yang dihosting sendiri dan model yang dihosting hanya jujur jika sisi yang dihosting mencerminkan harga daftar hari ini, dan itulah properti yang dijelaskan di sini — bukan diskon.

Di mana model kecil menang bahkan melawan model unggulan

Tiga kasus, dan cakupannya lebih sempit daripada yang biasanya tersirat dalam pemasaran model kecil.

Yang pertama adalah kendali penerapan. File BF16 9,08 GB dapat dipatok, diberi versi, dan dikirim ke perangkat edge. File 56 GB tidak bisa, dan API terkelola tidak memberi Anda bobotnya maupun jaminan versi. Jika batasan produk Anda adalah "model ikut berpindah bersama perangkat", 27B bukan kandidat pada harga berapa pun.

Yang kedua adalah prediktabilitas biaya pada volume besar. Inferensi yang dihosting sendiri memiliki kurva biaya yang datar dan tanpa meteran per token. Pada 200.000 kueri gambar per hari, $1.22 per seribu adalah sekitar $244 per hari — sekitar $7,300 per bulan — pada model 27B dengan harga daftar. Apakah self-hosting mengalahkan itu sepenuhnya bergantung pada utilisasi, dan satu kartu yang kurang dimanfaatkan sering kali tidak mampu melakukannya.

Yang ketiga adalah spesialisasi tugas. Jika beban kerja Anda benar-benar adalah "wilayah mana dari empat wilayah ini yang memuat bukti", ZwZ2-4B dilatih tepat pada bentuk itu dengan langkah penyaringan yang dirancang untuk menghapus pertanyaan yang dapat dijawab tanpa wilayah tersebut. Seorang generalis menghabiskan kapasitas untuk segala hal lainnya. Inilah kasus ketika checkpoint 4,5B dapat mengalahkan checkpoint 28B, dan ini satu-satunya kasus ketika klaim vendor sebesar 5,38 poin akan berarti seperti yang diharapkan pembaca.

Cara memutuskan, sesuai urutan keputusan itu sebenarnya terjadi

• Jika bobot harus berada di perangkat keras yang Anda kendalikan dan perangkat kerasnya kecil — ambil ZwZ2-4B, terima ambiguitas lisensi, dan anggarkan untuk evaluasi Anda sendiri.

• Jika tugasnya adalah pilihan ganda berbasis wilayah atau pengambilan bukti visual — uji ZwZ2-4B terhadap Qwen3.5-4B pada data Anda sendiri sebelum melihat 5.38 pada kartu. Delta itu, jika direproduksi, adalah satu-satunya angka yang penting.

• Jika Anda memerlukan video, dokumen panjang, deskripsi terbuka, atau lisensi yang akan ditandatangani tim hukum Anda — ambil Qwen3.8-27B dan berhenti membaca.

• Jika Anda tidak memiliki perangkat keras dan tidak berminat mengelola penyajian model — tempuh jalur Qwen yang dihosting, karena alternatifnya adalah proyek operasional, bukan pilihan model.

Bagian yang tidak nyaman dari perbandingan ini adalah bahwa perbandingan yang menarik bukanlah yang ada di judul. ZwZ2-4B versus Qwen3.8-27B adalah keputusan tentang kelas deployment yang disamarkan sebagai perbandingan model. Perbandingan langsung yang sebenarnya — basis yang sama, ukuran yang sama, biaya serving yang sama, selisih terukur 5,38 poin — adalah ZwZ2-4B melawan Qwen3.5-4B, dan itulah eksperimen yang layak dijalankan pada gambar Anda sendiri sebelum salah satu dari angka-angka ini mengubah arsitektur Anda.