ZwZ2-9B vs Gemma 4 12B: Satu Model, Satu Kartu Model, dan Mana di Antaranya yang Benar-Benar Bisa Anda Rilis

Gemma 4 12B telah tersedia untuk publik sejak 23 Mei 2026. Model ini dilengkapi dengan kartu model, laporan teknis, rangkaian evaluasi yang dipublikasikan, lima ukuran saudara, dan jumlah unduhan di Hub yang telah melampaui 79.000 hanya dalam sebulan terakhir. ZwZ2-9B telah tersedia untuk publik sejak 16 Oktober 2026 — hari ini — sebagai delapan file dalam repositori tanpa README, tanpa kolom lisensi, dan tanpa tag pipeline. Keduanya kira-kira berukuran sama. Keduanya menerima gambar. Keduanya mendeklarasikan batas konteks 262.144 posisi yang sama. Dan keduanya sama sekali tidak berada dalam keadaan kesiapan yang sama, yang merupakan satu-satunya perbandingan yang penting jika Anda memutuskan di mana akan menghabiskan GPU.

Jawaban singkatnya: Gemma 4 12B adalah produk jadi dari Google DeepMind yang sudah lima bulan diuji batas kemampuannya oleh orang lain. ZwZ2-9B adalah checkpoint dari inclusionAI yang belum dijelaskan oleh siapa pun di luar lab, termasuk oleh lab itu sendiri. Jika Anda perlu merilis sesuatu bulan ini, pilihannya tidak dekat dan ini bukan komentar tentang bobotnya. Jika Anda sedang memutuskan model apa yang akan dipakai untuk prototipe bulan depan, baca angka-angka di bawah ini lalu jalankan evaluasi Anda sendiri, karena hanya satu dari dua model ini yang memberi Anda sesuatu untuk dibaca.

Kedua stack tersebut, dimensi demi dimensi

• Parameter — ZwZ2-9B: 9.409.813.744 dalam bfloat16. Gemma 4 12B: 11,95 miliar.

• Arsitektur — qwen3_5, hibrida dari atensi linear dan atensi penuh. Gemma: gemma4_unified, tanpa encoder dan terpadu di berbagai modalitas.

• Lapisan — 32 pada ZwZ2-9B (24 attention linear, 8 attention penuh). 48 pada Gemma 4 12B (40 sliding window pada 1.024 token, 8 attention penuh).

• Batas maksimum konteks — 262.144 posisi yang dinyatakan oleh keduanya.

• Kosakata — 248.320 vs 262.144, dengan milik Gemma yang dialokasikan untuk id token gambar, audio, dan video.

• Modalitas di — teks, gambar, dan video untuk ZwZ2-9B. Teks, gambar, audio, dan video untuk Gemma 4 12B, yang konfigurasinya membawa audio tower berdimensi 640.

• Lisensi — tidak ada yang dideklarasikan vs Apache-2.0.

• Rekam jejak — nol unduhan dan dua suka vs 79.565 unduhan dan 790 suka dalam sebulan terakhir.

Dua dari baris-baris itu layak ditinjau ulang karena membalik intuisi. Yang pertama adalah jadwal attention: ZwZ2-9B adalah model 32 lapis dengan 8 lapis full-attention, dan Gemma 4 12B adalah model 48 lapis dengan 8 lapis full-attention. Keduanya bertaruh bahwa bagian mahal dari attention seharusnya jarang; mereka hanya berbeda pendapat tentang seberapa jarang, yakni satu dari empat lapis versus satu dari enam lapis. Yang kedua adalah batas atas konteks, di mana checkpoint 9,4B tanpa dokumentasi dan model andalan 11,95B dari DeepMind bertemu tepat pada angka 262.144 yang sama — yang merupakan kebetulan target desain, bukan hubungan apa pun antara keduanya.

Di mana Gemma 4 12B bukan sekadar unggul, tetapi berada di kategori yang berbeda

Audio adalah yang pertama. Model Google menerima suara secara native, dengan menara audio khusus dan id token audio di dalam kosakatanya. Tokenizer ZwZ2-9B juga mencadangkan <|audio_start|>, <|audio_end|> dan <|audio_pad|> — tetapi konfigurasinya tidak memuat konfigurasi audio dalam bentuk apa pun, jadi token-token itu adalah kosakata yang diwarisinya, bukan kemampuan yang dimilikinya. Jika beban kerja Anda mencakup ucapan, di sinilah perbandingan berakhir, dan ada baiknya kita tepat soal alasannya: bukan karena ZwZ2-9B mendapat skor lebih buruk, melainkan karena tidak ada apa pun di dalam checkpoint itu yang dapat memproses bentuk gelombang.

Dokumentasi adalah yang kedua, dan inilah yang dampaknya berlipat. Gemma 4 12B hadir dengan laporan teknis (arXiv 2607.02770), set evaluasi terbitan yang mencakup segala hal mulai dari penalaran bergaya GPQA hingga tolok ukur visi, lisensi yang dinyatakan, serta catatan bahwa model ini tersedia dalam lima ukuran sehingga Anda dapat menukar kapabilitas dengan jejak sumber daya tanpa harus keluar dari keluarga model ini. Di sekitarnya, Hub menunjukkan 83 fine-tune terbitan, 49 kuantisasi, dan 15 Spaces yang dibangun di atasnya. Ekosistem itu bukan sekadar hiasan. Itu adalah kumpulan bukti tentang bagaimana model ini gagal, yang dihasilkan oleh orang-orang yang bukan dari Google, dan tidak ada penggantinya.

Perizinan adalah yang ketiga, dan ia paling tidak glamor sekaligus paling menentukan. Gemma 4 12B berlisensi Apache-2.0. ZwZ2-9B sama sekali tidak menyatakan lisensi — bukan terbuka, bukan kustom, tidak ada apa pun di metadata repositori. Tanpa deklarasi, tafsir yang aman adalah bahwa penerbit mempertahankan haknya, dan itu bukan pertanyaan yang ingin Anda ketahui jawabannya salah selama pengadaan. Checkpoint yang tidak dapat Anda gunakan secara legal tidak lebih murah daripada checkpoint yang dapat Anda gunakan.

Satu-satunya tempat ZwZ2-9B memiliki argumen struktural

Bukan soal kualitas, yang belum bisa diukur siapa pun. Ini soal bagaimana benda itu menghabiskan daya komputasi, dan konfigurasinya luar biasa eksplisit soal itu.

Tiga perempat dari lapisan ZwZ2-9B adalah linear attention — 24 dari 32 — masing-masing membawa state berulang berukuran tetap alih-alih cache key-value yang bertambah seiring percakapan. Konfigurasi menyebutkan mekanismenya: 16 key head dan 32 value head pada dimensi 128, kernel konvolusi selebar 4, dan state disimpan dalam float32 untuk stabilitas numerik. Hanya setiap lapisan keempat yang melakukan full attention. Gemma 4 12B membuat taruhan serupa dengan mekanisme berbeda — 40 dari 48 lapisannya menggunakan sliding window yang dibatasi pada 1.024 token — jadi kedua model dirancang untuk berhenti membayar biaya full attention pada sebagian besar lapisan. Keduanya berbeda dalam tingkat dan teknik, dan tanpa benchmark tidak ada cara jujur untuk mengatakan mana yang menang. Niat desainnya terbaca; hasilnya tidak diukur.

Footprint adalah bagian yang lugas. 9,41 miliar parameter dibandingkan 11,95 miliar berarti sekitar seperlima lebih sedikit bobot yang harus ditampung sebelum Anda mengkuantisasi apa pun, dan menara visinya kecil — 27 lapisan pada ukuran tersembunyi 1.152 yang memproyeksikan ke 4.096 — itulah sebabnya model ini muat dengan nyaman di kelas perangkat keras yang sama yang akan menjalankan Gemma 4 12B.

The behavioural difference worth knowing is the reasoning default. ZwZ2-9B's chat template emits an empty <think></think> block unless you explicitly ask for thinking, so it answers directly out of the box. Gemma 4 12B offers thinking modes you configure. For extraction, classification or routing — the jobs where a second pass of reasoning is latency you did not want to pay for — only one of these is cheap by default.

Apa yang tidak dapat ZwZ2-9B beritahukan kepada Anda, dan mengapa itu menentukan perbandingan

Anda tidak dapat mengetahui apakah itu model yang disetel dengan instruksi atau checkpoint dasar, karena repositorinya tidak memiliki README dan tidak memiliki tag pipeline dan keduanya biasanya akan menyatakannya. Prompt sistem yang tertanam yang menunjuk ke <answer> tag adalah bukti kuat dari model instruksi yang terlatih, tetapi itu adalah bukti, bukan pernyataan.

Anda tidak dapat mengetahui data apa yang dipakai untuk melatihnya, apakah resep persepsi berbutir halus yang membuat nama keluarga ZwZ tenar ikut terbawa, atau apa yang seharusnya menjadi keunggulannya. Anda tidak dapat mengetahui lisensinya. Dan Anda tidak dapat mengetahui bagaimana perilakunya di batas kemampuannya, karena tidak ada orang di luar inclusionAI yang pernah menjalankannya.

Taruh itu di samping Gemma 4 12B, dan asimetrinya bukan soal kadar. Satu model hadir dengan laporan teknis dan delapan bulan penggunaan publik; yang lain hadir dengan config.json dan default pemikiran yang terbalik. Itu alasan untuk membuat prototipe, bukan alasan untuk mengabaikan — checkpoint yang tidak terdokumentasi adalah tempat banyak pekerjaan menarik pertama kali muncul — tetapi itu alasan untuk jujur bahwa Anda sendiri yang akan melakukan evaluasinya.

Aturan keputusan yang tidak bergantung pada bukti yang hilang

Ambil Gemma 4 12B jika salah satu dari hal berikut ini benar: Anda memerlukan input audio, Anda memerlukan lisensi yang bisa Anda tunjukkan kepada pengacara, Anda perlu merilisnya dalam waktu satu kuartal, atau Anda memerlukan ukuran-ukuran bersaudara agar rangkaian evaluasi yang sama dapat dipindahkan naik dan turun dalam satu keluarga. Keempatnya sudah tuntas.

Anggaplah ZwZ2-9B serius jika Anda memiliki pertanyaan spesifik yang mungkin dijawab lebih baik oleh model visi berperhatian hibrida 9.4B dengan default tanpa penalaran daripada model yang sudah Anda bayar, dan Anda bersedia mengukurnya sendiri. Hal pertama yang perlu diuji bukanlah kecerdasannya. Melainkan apakah ia menerima gambar yang benar-benar Anda kirimkan, mengembalikan format yang benar-benar Anda butuhkan, dan melakukannya tanpa masalah lisensi yang membayangi hasilnya.

Dan jangan bandingkan keduanya pada tabel benchmark, karena tabel itu hanya punya satu kolom. Anda bisa menaruh angka-angka yang dipublikasikan Gemma 4 12B di sebelah ruang kosong dan menyebutnya perbandingan, tetapi ruang kosong itulah temuannya. Siapa pun yang menyajikan putusan kualitas head-to-head tentang ZwZ2-9B minggu ini sedang mengarangnya.

Tidak ada checkpoint yang ada di katalog kami saat ini, jadi keduanya bukan sesuatu yang bisa Anda panggil melalui kami sekarang — Gemma 4 12B adalah unduhan Hugging Face dan stack penyajian Anda sendiri, begitu juga ZwZ2-9B. Yang kami layani adalah kerabat yang membuat perbandingan Gemma dapat dijalankan tanpa mengubah cara Anda mengevaluasi apa pun: Gemma 4 26B A4B, anggota mixture-of-experts dari keluarga yang sama, pada endpoint terkelola dengan harga $0.06 per juta token input dan $0.33 per juta token output dengan konteks 262K token yang sama. Karena OrcaRouter meneruskan harga daftar penyedia dengan markup 0%, perubahan harga di sisi penyedia langsung berlaku di sini pada hari yang sama alih-alih pada penyegaran katalog berikutnya — yang penting ketika hal yang Anda lakukan adalah perbandingan biaya antara model yang Anda host dan model yang Anda sewa. Di sisi lain bracket, pengganti terkelola terdekat untuk apa yang coba diwujudkan oleh ZwZ2-9B adalah qwen/qwen3-vl-8b-instruct, model vision-language 8B dengan konteks 131K pada $0.18 dan $0.70, yang terdokumentasi, berlisensi, dan tersedia sekarang.

Apa yang akan mengubah artikel ini

Sebuah kartu model. Tepatnya: lisensi, satu paragraf tentang data pelatihan, dan satu tabel evaluasi yang dihasilkan oleh seseorang yang tidak melatih model tersebut. Sampai saat itu, ringkasan jujur tentang ZwZ2-9B versus Gemma 4 12B bukanlah bahwa salah satunya lebih baik. Melainkan bahwa yang satu ada sebagai produk dan yang lain ada sebagai daftar berkas, dan jarak antara kedua hal itu adalah jarak termahal dalam pembelajaran mesin.

Perbandingan seperti ini juga menjadi tempat munculnya mode kegagalan: insiden AI dan kegagalan agen yang terdokumentasi di balik model di kelas ini dikumpulkan dalam the OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, nilai keyakinan, dan tanda perdebatan.