ZwZ2-4B vs ZwZ2-9B: Kedalaman Sama, Bobot Dua Kali Lipat, Selisih 1,8 Poin

Asumsi yang jelas tentang model 4B dan model 9B dari keluarga yang sama adalah bahwa model yang lebih kecil lebih dangkal. ZwZ2-4B dan ZwZ2-9B tidak demikian. Keduanya mendeklarasikan tepat 32 lapisan transformer. Keduanya menggunakan 16 kepala query terhadap 4 kepala key-value pada dimensi kepala 256. Keduanya membawa kosakata 248,320-token yang sama dan batas konteks 262,144-posisi yang sama, dan keduanya menjalankan jadwal atensi linear-ke-penuh 3:1 yang sama. Model 9B bukanlah ZwZ2-4B yang lebih dalam; ia adalah versi yang lebih lebar, dan begitu Anda melihatnya, sisa perbandingan ini — termasuk selisih skor milik vendor itu sendiri — berhenti terlihat seperti garis lurus.

Kedua checkpoint tersebut juga berdekatan dalam waktu dan asal. ZwZ2-4B dibuat pada 15 Oktober 2026, ZwZ2-9B pada 16 Oktober, keduanya oleh inclusionAI, keduanya dilatih dengan pipeline yang sama pada dataset yang sama berisi 20.662 pertanyaan pilihan ganda, dan tidak satu pun telah diumumkan. Keduanya berbeda dalam model dasar — masing-masing Qwen3.5-4B dan Qwen3.5-9B — dan dalam lebar setiap blok yang mengikuti dari perbedaan itu.

Diff konfigurasi, dan apa implikasinya

Pembacaan lapis demi lapis terhadap kedua berkas konfigurasi itu mengungkap satu perbedaan struktural yang sesungguhnya dan beberapa perbedaan lain yang mengikuti secara mekanis darinya.

• Kedalaman — 32 lapisan pada keduanya, identik

• Lebar tersembunyi — 2.560 untuk 4B dibandingkan 4.096 untuk 9B, faktor 1,6

• Lebar feed-forward — ukuran perantara 9.216 vs 12.288

• Geometri attention — 16 head query, 4 head key-value, dimensi head 256, pada keduanya

• Jadwal atensi — 24 lapisan linear dan 8 lapisan atensi penuh, di kedua

• Konteks — 262.144 posisi pada keduanya, M-RoPE di 11/11/10, rotary parsial 0,25

• Kosakata — 248.320 token pada keduanya, embedding terikat pada 4B dan tidak terikat pada 9B

• Menara visi — 24 lapisan pada ukuran tersembunyi 1.024 vs 27 lapisan pada ukuran tersembunyi 1.152

• Prediksi multi-token — nol lapisan MTP di keduanya, kepala spekulatif dihilangkan dari setiap basis

• Parameter — 4,539,265,536 vs 9,409,813,744, faktor 2,07

Dua dari baris tersebut layak mendapat catatan. Embedding yang tidak diikat (untied) pada 9B berarti matriks input dan output-nya adalah salinan terpisah dari tabel 248.320-kali-4.096; itu saja menyumbang sekitar dua miliar parameter, yang menjadi sebagian besar alasan rasio parameter (2.07) melampaui rasio lebar (1.6). Dan menara visi tumbuh seiring tumpukan bahasa — 27 lapisan dengan 1.152 hidden versus 24 dengan 1.024 — sehingga 9B melihat gambar melalui encoder yang lebih lebar, bukan hanya decoder yang lebih lebar.

Angkanya: keuntungan lebih besar, plafon lebih rendah

inclusionAI menerbitkan satu angka agregat per model: akurasi keseluruhan pada 25 tolok ukur di enam domain, dengan bobot yang setara. Berdasarkan angka pada kartu itu sendiri, keluarga model ini terbaca seperti berikut.

• ZwZ2-4B — dasar 49,41, disetel 54,79, peningkatan 5,38 poin

• ZwZ2-9B — dasar 51.63, disetel 56.59, peningkatan sebesar 4.96 poin

• ZwZ2-27B — basis 55,52, disetel 60,51, kenaikan 4,99 poin

Jadi, model 4B memperoleh peningkatan paling besar dan finis di posisi terakhir. Model 9B memperoleh peningkatan lebih sedikit dan finis 1,80 poin lebih tinggi. Kedua pernyataan itu benar, dan mana yang penting sepenuhnya bergantung pada pertanyaan yang Anda ajukan. Jika pertanyaannya adalah "berapa besar peningkatan yang diberikan resep pelatihan ini", jawabannya paling besar pada 4B. Jika pertanyaannya adalah "model mana yang lebih akurat", jawabannya adalah 9B, dengan selisih 1,80 poin, dan tidak ada cara pembingkaian yang mengubah itu.

Semua angka ini adalah angka yang dilaporkan vendor pada kumpulan benchmark yang dipilih vendor. Belum ada pihak independen yang menilai anggota mana pun dari keluarga ini, dan detail per benchmark terdapat dalam gambar, bukan dalam teks — sebuah SVG dan sebuah PNG di setiap kartu. Selisih 1,80 poin adalah ringkasan jujur dari apa yang dipublikasikan; itu bukan pengukuran yang pernah Anda atau saya lihat direproduksi.

Mengapa manfaatnya mengecil seiring model bertambah besar

Pola — 5,38 pada 4B, 4,96 pada 9B, 4,99 pada 27B — patut ditanggapi dengan serius, bukan sekadar diabaikan. Resep pelatihan yang menambahkan kemampuan pada model kecil sedang mengisi celah: model dasar tidak memiliki kapasitas atau sinyal pelatihan untuk memperhatikan bukti regional yang rinci, dan 20.000 pertanyaan pilihan ganda yang disaring dengan cermat mengajarkan keterampilan yang tidak dimilikinya. Model dasar yang lebih besar sudah memiliki lebih banyak kemampuan itu, sehingga kurikulum yang sama memiliki lebih sedikit tambahan. Imbal hasil marginal atas data menurun seiring membaiknya model dasar.

Itu adalah tafsiran yang murah hati, dan itulah yang didukung oleh angka-angka tersebut. Tafsiran yang tidak murah hati adalah bahwa rangkaian tolok ukur memiliki batas atas atau bahwa bentuk tugas empat opsi memberi keuntungan secara tidak proporsional kepada model kecil. Kedua tafsiran itu konsisten dengan angka yang dipublikasikan, sehingga selisih 1,80 poin harus diperlakukan sebagai arah, bukan sebagai besaran.

Ada kemungkinan ketiga yang lebih penting untuk adopsi: peningkatannya mungkin terkonsentrasi. “Meningkat pada setiap benchmark” adalah klaim kartu tersebut, tetapi rata-rata atas 25 tugas dengan bobot sama dapat menyembunyikan dua kemenangan besar dan dua puluh kemenangan kecil. Tanpa tabel per benchmark — dan itu tidak ada dalam teks — Anda tidak dapat mengetahui apakah 5.38 milik 4B merata atau terkonsentrasi tepat pada tugas persepsi berbutir halus yang menjadi target resep. Jika terkonsentrasi, model kecil adalah spesialis dan 9B adalah generalis, dan rata-rata adalah statistik yang salah untuk memilih di antara keduanya.

27B adalah eksperimen kontrol.

Ukuran ketiga membuat argumen tentang keluarga model dapat diuji. ZwZ2-27B dibangun di atas Qwen3.6-27B — generasi basis yang berbeda dari dua saudaranya — dan mencatat kenaikan 4,99 poin, pada dasarnya sama dengan 4,96 milik 9B dan jauh di bawah 5,38 milik 4B. Jika nilai resepnya semata-mata terletak pada kualitas data, Anda akan mengharapkan kenaikan yang datar di seluruh ukuran. Sebaliknya, 4B adalah pencilan. Hal itu konsisten dengan narasi kesenjangan kapasitas dan tidak konsisten dengan narasi bahwa data pelatihannya memang secara seragam sangat baik.

Model 27B juga menjawab satu poin praktis tentang perilisan keluarga ini. Ketiga repositori muncul dalam selang 23 jam satu sama lain, 4B lebih dulu dan 27B terakhir, yang merupakan ciri khas push batch alih-alih peluncuran bertahap. Dataset menyusul pada 19 Oktober. Unduhan menunjukkan ke mana perhatian tertuju: nol untuk 4B, 147 untuk 9B, tujuh untuk 27B. Belum ada yang memilih favorit, dan ukuran menengah adalah satu-satunya yang telah diunduh orang.

Menyajikan: 9 GB terhadap 18,8 GB

Perhitungannya sederhana dan merupakan argumen terkuat untuk model yang lebih kecil. Bobot ZwZ2-4B adalah file BF16 berukuran 9,08 GB; bobot ZwZ2-9B sekitar 18,8 GB pada presisi yang sama. Pada kartu 24 GB, 4B menyisakan ruang untuk cache KV yang lega dan satu batch; 9B menyisakan sangat sedikit. Pada kartu 16 GB, 4B muat dan 9B sama sekali tidak muat tanpa kuantisasi.

Tidak ada model yang dilayani oleh penyedia terkelola — halaman Hugging Face melaporkan tidak ada penyedia inferensi untuk keduanya — jadi keduanya adalah keputusan self-hosting. Jika Anda memilih di antara keduanya berdasarkan alasan perangkat keras, model 9B adalah kelas mesin yang berbeda, bukan unduhan yang sedikit lebih besar. Itulah makna praktis dari rasio parameter 2,07×, dan itu ditentukan oleh kartu Anda, bukan oleh selisih akurasi 1,80 poin.

Bagi tim yang menginginkan perilaku persepsi tanpa harus menanggung masalah penyajiannya, jalan tengah terkelola dalam katalog adalah qwen/qwen3-vl-8b-instruct dengan harga $0,18 per juta token masukan dan $0,70 per juta token keluaran dengan konteks 131K. Ini bukan model yang sama dan tulisan ini tidak akan berpura-pura demikian — tetapi inilah perbandingan yang sebenarnya dibutuhkan sebagian besar tim, dan model ini berjalan dengan kunci yang sama seperti semua yang dirutekan OrcaRouter, dengan failover otomatis jika upstream mengalami penurunan kinerja.

Jika Anda membangun pipeline bertingkat alih-alih memilih satu checkpoint, lapisan routing adalah tempat untuk menyatakannya: kirim setiap gambar ke model murah terlebih dahulu, lalu eskalasikan hanya gambar yang tingkat keyakinannya rendah ke model yang lebih besar. DSL routing menyusun model menjadi satu panggilan, sehingga eskalasi menjadi aturan dalam rute, bukan integrasi kedua. Tidak ada checkpoint ZwZ2 yang dapat menjadi tingkat murah saat ini — keduanya tidak dihosting — tetapi pola inilah yang secara implisit diperdebatkan oleh kedua model ini.

Mana yang harus diambil?

• Ambil 4B jika kartu grafis Anda 16 atau 24 GB, tugas Anda adalah bukti visual berbasis wilayah, dan Anda menginginkan peningkatan terukur terbesar dibandingkan model dasar dalam keluarga ini.

• Ambil 9B jika Anda memiliki ruang memori yang cukup dan menginginkan akurasi tertinggi yang pernah dipublikasikan untuk checkpoint ZwZ2 di bawah 27B. Selisih 1,80 poin bukanlah hal yang remeh.

• Jangan ambil salah satu pun dulu jika Anda memerlukan lisensi yang akan ditandatangani oleh tim hukum Anda. Tidak ada repositori yang mendeklarasikannya, dan kartu-kartunya merujuk pada berkas lisensi yang tidak ada.

• Jangan ambil keduanya jika Anda membutuhkan makalah. Metode v2 tidak memiliki uraian tertulis publik; pengenal arXiv pada kedua kartu itu milik karya ZwZ generasi pertama pada keluarga basis yang berbeda.

Eksperimen yang benar-benar berguna bukanlah 4B versus 9B pada 25 benchmark milik orang lain. Melainkan menjalankan keduanya — atau menjalankan 4B terhadap basisnya sendiri — pada beberapa ratus gambar dari beban kerja aktual Anda, dan melihat apakah 5.38 dapat ditransfer. Sampai seseorang melakukannya, angka yang diterbitkan keluarga model ini menggambarkan perilaku sebuah resep pada suatu kumpulan tugas, bukan keputusan yang dapat Anda ambil tentang pipeline Anda sendiri. 4B adalah yang menarik justru karena kenaikannya paling besar dan buktinya paling tipis.