Granite Switch 4.1 8B vs Gemma 4 12B: Spesialis Tersusun atau Satu Model Terpadu?

Tanyakan kepada dua lab cara membangun model yang dapat melakukan percakapan, membaca tangkapan layar, dan mentranskripsikan catatan suara, dan Anda akan mendapatkan jawaban yang berlawanan. Granite Switch 4.1 8B, yang dirilis oleh IBM pada 14 Oktober 2026, mempertahankan model teks 8B yang dibekukan dan menempelkan adaptor kecil yang dapat ditukar padanya, sehingga pemeriksa keamanan, mesin pengambil keputusan, dan pengenal ucapan semuanya merupakan tambahan di atas satu tulang punggung bersama. Gemma 4 12B, yang diterbitkan oleh Google pada 23 Mei 2026, melakukan yang sebaliknya: satu model 11,95 miliar parameter yang dilatih sejak awal pada teks, gambar, dan audio, tanpa encoder terpisah yang perlu dipasang. Keduanya Apache-2.0, keduanya berjalan di satu GPU, dan keduanya tidak sepakat tentang hampir semua hal di baliknya.

Versi praktisnya, sebelum detailnya: Gemma 4 12B adalah pilihan yang matang untuk apa pun yang perlu melihat, karena telah tersedia untuk publik selama lima bulan, memiliki basis instalasi yang benar-benar besar, dan jalur multimodalnya dilatih, bukan disambung-sambung. Granite Switch 4.1 8B adalah pilihan yang menarik untuk apa pun yang perlu memutuskan atau menjalankan satu endpoint alih-alih tiga, dan usianya baru dua hari dengan nol evaluasi independen. Itu bukan putusan yang saling bersaing — itu jawaban untuk pertanyaan yang berbeda, dan sisa tulisan ini adalah detail yang memungkinkan Anda menentukan pertanyaan mana yang sebenarnya Anda miliki.

Pemisahan arsitektural, dinyatakan secara gamblang

Granite Switch 4.1 8B adalah sebuah komposisi. Basisnya adalah Granite 4.1 8B — 40 lapisan, ukuran tersembunyi 4.096, 32 kepala kueri terhadap 8 kepala KV, jendela 131.072 token, kosakata 100.352 token yang diperluas oleh kedua adaptor tersebut dengan tepat tiga id yang dicadangkan. Di atasnya terdapat dua adaptor LoRA yang diaktifkan, guardian-core pada rank 16 pada proyeksi attention dan decision pada rank 64 pada ketujuh proyeksi tersebut, ditambah Granite Speech 5.0 TurboCTC, sebuah encoder conformer non-autoregresif dengan 470M parameter, untuk input audio. Total: 8.776.400.896 parameter dibandingkan 8.380.551.168 milik basis — peningkatan 4,72% untuk dua adaptor dan satu model suara.

Gemma 4 12B adalah satu stack tunggal. Konfigurasinya menyebutnya gemma4_unified, dan namanya harfiah: gambar, audio, dan video semuanya memiliki ID token sendiri di dalam satu kosakata berisi 262.144 token, dan kartunya mendeskripsikan arsitektur tersebut sebagai tanpa encoder, artinya tidak ada menara visi atau menara audio terpisah yang menyuplai proyeksi ke dalam model bahasa. Model ini menyelang-selingkan atensi lokal sliding-window pada jendela 1.024 token dengan atensi global penuh, menggunakan p-RoPE untuk posisi, dan membentang hingga konteks 256K. Apache-2.0, seperti Granite.

• Parameter — Granite Switch 4.1 8B: 8,78B tersusun (8,38B dasar). Gemma 4 12B: 11,95B.

• Konteks — 131.072 token vs 256.000 token.

• Kosakata — 100,355 vs 262,144, dengan milik Gemma dicadangkan untuk token gambar, audio, dan video.

• Modalitas dalam — teks dan audio vs teks, gambar, audio dan video.

• Modalitas keluar — hanya teks vs hanya teks.

• Head khusus — distribusi keputusan terkalibrasi dan pengklasifikasi keamanan vs tidak ada; Gemma menjawab, bukan memberi skor pada label opsi.

• Lisensi — Apache-2.0 keduanya.

Di mana Gemma 4 12B menang mutlak

Visi tidak bisa dibilang berdekatan. Gemma 4 12B membaca gambar secara native; Granite Switch 4.1 8B sama sekali tidak memiliki jalur gambar. Jika pipeline Anda menyerap screenshot, PDF, bagan, atau tangkapan UI, di situlah perbandingannya berakhir — secerdas apa pun adaptor, itu tidak bisa menggantikan modalitas yang tidak diterima oleh checkpoint.

Rekam jejak adalah yang kedua. Gemma 4 12B telah ada di Hub sejak 23 Mei 2026 dan varian instruct-nya telah melewati 1,6 juta unduhan; checkpoint base-nya saja sudah melewati 79.000. Kedua angka itu adalah jumlah unduhan Hub, bukan angka penggunaan, jadi keduanya melebih-lebihkan penerapan nyata, tetapi arahnya tidak ambigu: ada banyak orang yang sudah mengalami mode kegagalannya dan menulis tentangnya. Granite Switch 4.1 8B, pada saat penulisan ini, baru berusia dua hari dengan beberapa lusin unduhan dan beberapa suka. Lima bulan laporan bug publik adalah aset yang tidak bisa dibeli, dan itu adalah argumen terkuat untuk Gemma di jalur produksi kuartal ini.

Panjang konteks adalah yang ketiga, dan itulah yang paling tidak mencolok. 256K versus 131.072 bukanlah perbedaan pemasaran saat Anda memasukkan dokumen panjang. Tak satu pun dari kedua model itu memerlukan solusi tambahan untuk beban kerja chat tipikal, tetapi hanya satu di antaranya yang akan menerima konteks berskala repositori tanpa sharding.

Di mana Granite Switch 4.1 8B menang mutlak

Decision adapter adalah kemampuan yang model lain sama sekali tidak miliki. Beri ia sebuah state dan pertanyaan dengan opsi berlabel, dan ia mengembalikan softmax terkalibrasi atas label-label tersebut dalam satu forward pass — panggilan yang didokumentasikan meminta vLLM untuk logprob dari id token label yang tepat dan mengeksponensiasikannya, menghasilkan keluaran dalam bentuk A: 0.982, B: 0.0035, C: 0.014. Model serbaguna dapat diminta memilih label, tetapi prompting menghasilkan token, bukan distribusi yang dapat Anda beri ambang, bandingkan antar giliran, atau catat sebagai skor terkalibrasi. Untuk logika routing, triase, ambang eskalasi, dan apa pun yang membutuhkan nilai keyakinan alih-alih jawaban, itu adalah kelas keluaran yang berbeda.

Konsolidasi endpoint tunggal adalah yang kedua. Transkripsi ucapan berjalan pada endpoint yang sama dengan chat dan keputusan; Anda mengirim input_audio sebagai bagian konten pada penyelesaian chat normal dan encoder 470M mentranskripsinya sebelum menyisipkan teks ke konteks. Tidak ada server kedua, tidak ada lapisan orkestrasi, tidak ada tagihan ASR terpisah. Gemma 4 12B juga menerima audio, jadi ini bukan kesenjangan kemampuan — ini perbedaan bentuk penerapan, dan itu hanya penting jika Anda memang berencana menjalankan layanan ucapan terpisah di samping LLM.

Jejak memori adalah yang ketiga. 8.78B dibandingkan 11.95B berarti bobot yang harus ditahan sekitar seperempat lebih sedikit, dan desain cache-KV bersama berarti tiap adaptor tidak membawa status atensinya sendiri. IBM mengklaim model gabungan memakai VRAM sekitar sama dengan model dasar saja; klaim spesifik itu belum direproduksi, tetapi delta parameter 4.72% di baliknya adalah fakta dari manifes build.

Dua klaim di sisi Granite yang belum menjadi fakta

Nomor Decision Index yang dipublikasikan untuk decision adapter adalah 42,9 secara keseluruhan pada subset cepat publik edition-v0.3 yang terdiri dari 1.068 baris, dengan skor per area Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 dan Arts 18,0. IBM menjalankan evaluasi itu dan IBM mempublikasikannya. Tidak ada pihak lain yang mereproduksinya, dan tidak ada entri papan peringkat pihak ketiga untuk Granite Switch sama sekali. Perhatikan juga bentuknya: 59,8 pada Tools yang berdampingan dengan 18,0 pada Arts adalah profil spesialis, bukan skor kompetensi umum, dan kartu tersebut secara eksplisit menyatakan untuk memperlakukan probabilitas opsi sebagai prior, bukan klasifikasi tersertifikasi pada domain yang tidak menjadi sasaran pelatihan adapter tersebut.

Yang kedua adalah jalur wicara, dan inilah klaim yang paling mungkin ditafsirkan secara berlebihan. Encoder-nya hanya untuk bahasa Inggris, keluarannya berupa huruf kecil dan tanpa tanda baca, dan — dalam kata-kata IBM sendiri di kartu model — encoder wicara dan LLM tidak dilatih bersama-sama; tidak ada proyeksi terlatih yang menghubungkan keduanya. Jalur audio Gemma 4 12B dilatih sebagai bagian dari model tersebut. Itulah perbedaan sesungguhnya, dan perbedaan itu tetap bertahan di tengah semua pembicaraan tentang konsolidasi endpoint: satu sistem memiliki keterkaitan terlatih antara bunyi dan makna, sistem lainnya memiliki transkrip yang disisipkan ke dalam prompt oleh komponen yang tidak pernah dioptimalkan untuk bekerja dengan hal yang membacanya.

Menjalankannya berdampingan

Kedua checkpoint dapat diunduh, keduanya Apache-2.0, dan secara jujur, keduanya lebih tepat ditempatkan di slot yang berbeda daripada diadu dalam bake-off. Gemma 4 12B adalah pilihan Anda saat masukannya mencakup piksel. Granite Switch 4.1 8B adalah pilihan Anda saat keluarannya perlu berupa probabilitas, atau saat Anda ingin satu endpoint menangani chat, keputusan, dan transkripsi serta bersedia menerima bahwa separuh transkripsinya adalah sambungan, bukan jalur yang dilatih.

Jika Anda membandingkan keduanya, lakukanlah tanpa memasang ulang infrastruktur Anda. OrcaRouter mengekspos lebih dari 200 model di balik satu kunci API dengan failover otomatis dan meneruskan harga daftar penyedia pada markup 0%, sehingga perubahan harga di sisi penyedia masuk ke sini pada hari yang sama, bukan pada penyegaran katalog berikutnya. img src="4.png" alt="Tangkapan layar halaman model OrcaRouter untuk Gemma 4 26B A4B, yang menampilkan model bertag Vision, Tools, JSON dan Reasoning dengan konteks 262K token, input teks, gambar dan video, tanggal rilis Google 2026-04-03, harga per juta token $0,06 untuk input dan $0,33 untuk output, p50 time-to-first-token 2,74 detik, serta teks pengantar yang mendeskripsikan Gemma 4 26B A4B IT sebagai model mixture-of-experts yang disetel dengan instruksi dengan total 25,2B parameter dan 3,8B di antaranya aktif per token." /> Kedua checkpoint ini tidak ada di katalog kami saat ini, dan kami tidak akan berpura-pura sebaliknya — Granite Switch adalah unduhan Hugging Face dan kontainer vLLM, Gemma 4 12B juga sama. Inti dari menempatkan kandidat di balik satu kunci adalah ketika model itu benar-benar tersedia, membandingkannya dengan model yang sedang dipakai pada trafik Anda sendiri hanya memerlukan satu string model, bukan migrasi. Pertimbangkan beberapa model yang kami layani, seperti Gemma 4 26B A4B, sebagai jembatan: model ini berasal dari keluarga yang sama dengan model yang Anda evaluasi, di endpoint terkelola, hari ini.

Yang mana, untuk siapa

Pilih Gemma 4 12B jika beban kerja Anda melibatkan piksel, jika konteks 256K bersifat krusial, atau jika Anda merilis kuartal ini dan ingin lima bulan kesalahan orang lain berada di antara Anda dan produksi. Pilih Granite Switch 4.1 8B jika Anda memerlukan distribusi terkalibrasi atas opsi berlabel alih-alih sebuah jawaban, jika menggabungkan chat, keputusan, dan suara ke dalam satu endpoint menghilangkan satu layanan dari arsitektur Anda, atau jika Anda adalah jenis tim yang ingin membaca manifes build dan menyusun varian Anda sendiri — composer-nya publik dan katalog adapter-nya terbuka.

Jangan gunakan Granite Switch 4.1 8B untuk visi. Model itu tidak memilikinya. Dan jangan menilai keduanya hanya berdasarkan angka benchmark yang belum Anda jalankan sendiri, karena satu-satunya skor keputusan dalam perbandingan ini adalah skor yang dilaporkan vendor tanpa pendapat kedua yang mendukungnya — yang merupakan pernyataan tentang keadaan bukti, bukan tentang modelnya.