Granite Switch 4.1 8B vs LFM2.5 2.6B Base: Apakah Ada Pilihan Nyata di Sini?

Ini adalah pasangan dalam set yang paling tidak terlihat seperti pertarungan yang adil, jadi mari kita bahas itu segera daripada berpura-pura sebaliknya. Granite Switch 4.1 8B adalah checkpoint gabungan 8,78 miliar parameter yang diterbitkan IBM pada 14 Oktober 2026: Granite 4.1 8B yang dibekukan dengan dua adapter yang dapat dialihkan dan encoder ucapan, yang melakukan chat, penilaian keputusan, dan transkripsi dari satu endpoint. LFM2.5 2.6B Base adalah model teks pra-latih 2,69 miliar parameter yang diterbitkan Liquid AI pada 1 Agustus 2026, yang dibangun khusus untuk penerapan on-device — dan, yang penting, kartu modelnya sendiri menyatakan bahwa ini adalah checkpoint dasar "hanya direkomendasikan untuk tugas-tugas yang memerlukan fine-tuning berat." Membandingkan keduanya seolah-olah yang satu dapat menggantikan yang lain adalah kesalahan kategori. Membandingkan keduanya memberi tahu Anda sesuatu yang lebih berguna: di mana batas masing-masing sebenarnya berada, dan mengapa hampir tidak ada orang yang akan memilih di antara keduanya.

Jadi ini bukan uji banding. Ini adalah peta keputusan yang sebenarnya akan Anda ambil — keputusan ketika Anda memiliki target edge dan target server, dan Anda berusaha mencari tahu model mana yang ditempatkan di mana.

Untuk apa masing-masing

LFM2.5 2.6B Base adalah arsitektur hybrid, dan hybrid itulah intinya. Tiga puluh lapisan, 22 di antaranya adalah blok konvolusi pendek dengan gerbang ganda dan 8 adalah attention grouped-query — jadi sebagian besar stack adalah konvolusi, bukan attention, yang membuat jejak memori dan biaya per token tetap rendah pada perangkat keras kecil. Ukuran tersembunyi 2.048, 32 kepala kueri berbanding 8 kepala KV, konteks 131.072 token, kosakata 128.000 token, dan anggaran pra-pelatihan 34 triliun token. Enam belas bahasa didaftarkan: Inggris, Arab, Tionghoa, Prancis, Jerman, Italia, Jepang, Korea, Portugis, Spanyol, Vietnam, Thailand, Indonesia, Hindi, Rusia, dan Polandia. Liquid menggambarkan keluarga ini sebagai dibuat untuk penerapan di perangkat dan menyertakan model instruct saudaranya dalam format GGUF, ONNX, dan MLX bersama checkpoint native.

Granite Switch 4.1 8B adalah naluri berlawanan yang diterapkan pada masalah berlawanan. Alih-alih mengecilkan model, ia mempertahankan tulang punggung teks yang agak besar dan menambahkan kemampuan secara lateral. Basisnya adalah Granite 4.1 8B: 40 lapisan, ukuran tersembunyi 4.096, 32 kepala query terhadap 8 kepala KV, jendela 131.072 token, kosakata 100.352 token. Di atasnya terdapat guardian-core, adaptor LoRA teraktivasi rank-16 pada proyeksi atensi yang mendeteksi bahaya, jailbreaking, kata-kata kotor, kekerasan, konten seksual, bias sosial, dan perilaku tidak etis; decision, adaptor rank-64 pada ketujuh proyeksi yang mengembalikan softmax terkalibrasi atas token opsi berlabel dalam satu forward pass; dan Granite Speech 5.0 TurboCTC, encoder conformer non-autoregresif dengan 470M parameter untuk transkripsi. Total gabungannya adalah 8.776.400.896 parameter dibandingkan dengan basis 8.380.551.168 — peningkatan 4,72%.

Dimensi yang menentukan: instruct versus base

Perbedaan terbesar antara kedua checkpoint ini bukanlah ukuran atau arsitektur. Perbedaannya adalah bahwa yang satu adalah model yang sudah jadi dan yang lainnya adalah bahan mentah.

Granite Switch 4.1 8B hadir siap dipanggil. Adaptornya sudah dikomposisikan di dalamnya, token kontrol sudah terhubung melalui template chat, resep pemanggilan untuk adaptor keputusan didokumentasikan dengan kode yang berfungsi, dan kartu tersebut mencantumkan versi Transformers dan vLLM persis yang diinginkannya. Anda mengunduhnya, menjalankannya, dan ia mengerjakan tiga tugas itu.

LFM2.5 2.6B Base tidak melakukan semua itu, secara desain. Panduan Liquid sendiri menyatakan bahwa checkpoint ini ditujukan untuk "asisten yang spesifik bahasa (misalnya, Jepang) atau spesifik domain (misalnya, medis), pelatihan pada data proprietari, atau bereksperimen dengan pendekatan pasca-pelatihan yang baru" — dan jika yang Anda inginkan adalah model yang menjawab pertanyaan tanpa penyesuaian, kartu model justru mengarahkan ke saudara yang telah melalui pasca-pelatihan. Checkpoint dasar tidak memiliki perilaku mengikuti instruksi untuk dibandingkan, tidak ada penyelarasan, dan tidak ada disiplin templat chat. Tempatkan keduanya pada eval yang sama dan model Granite akan terlihat jauh lebih baik karena alasan yang sama sekali tidak ada hubungannya dengan mana model yang lebih baik: yang satu telah melalui pasca-pelatihan dan yang satu belum.

• Parameter — 8,78 miliar gabungan vs 2,69 miliar.

• Lapisan — 40 blok transformer padat vs 30 hibrida (22 konvolusi pendek dengan gerbang ganda + 8 GQA).

• Konteks — 131.072 token vs 131.072 token. Persis imbang, hal yang tidak biasa dan patut dicatat.

• Kosakata — 100,355 (tiga id yang dicadangkan untuk adaptor) vs 128,000.

• Modalitas — input teks dan audio, output teks vs hanya teks.

• Jenis checkpoint — tersusun, pasca-pelatihan, siap dipanggil vs basis pra-pelatihan untuk penyempurnaan.

• Lisensi — Apache-2.0 vs lisensi LFM 1.0, yang bukan Apache. Perbedaan itu penting secara komersial dan mudah terlewat.

• Bukti yang dipublikasikan — satu Decision Index yang dijalankan vendor dengan skor keseluruhan 42,9, tanpa evaluasi independen, vs tidak ada tolok ukur publik yang sebanding untuk checkpoint dasar.

Apa yang bisa 2.69B belikan untukmu yang 8.78B tidak bisa

Portabilitas, dan itu bukan keunggulan yang bisa dianggap enteng. Model 2,69B dengan 22 dari 30 lapisannya dibangun dari konvolusi pendek dirancang untuk berjalan di perangkat — laptop, SoC kelas ponsel, kotak embedded — dan Liquid merilis varian GGUF, ONNX, dan MLX terkuantisasi persis untuk itu. Checkpoint gabungan 8,78B dengan encoder ucapan 470M adalah artefak sisi server. Ia berjalan di GPU, di dalam kontainer, di balik endpoint.

Artinya, bentuk deployment tidak tumpang tindih: yang satu untuk kasus ketika permintaan tidak dapat meninggalkan perangkat, yang lain untuk kasus ketika bisa. Jika kendalanya adalah "tanpa jaringan," perbandingannya sudah berakhir sebelum dimulai, dan tak ada komposisi apa pun yang bisa mengubahnya. Tambahkan soal lisensi di atasnya — LFM 1.0 alih-alih Apache-2.0 — dan checkpoint 2.6B adalah yang akan Anda pilih ketika Anda berniat melakukan fine-tuning model Anda sendiri pada data Anda sendiri dan merilisnya dalam sebuah produk, sedangkan Granite Switch adalah yang Anda pilih ketika Anda menginginkan tiga kemampuan hari ini di bawah lisensi permisif.

Apa yang bisa diberikan komposisi kepada Anda yang tidak bisa diberikan oleh 2.69B?

Tiga pekerjaan dari satu endpoint, dan probabilitas alih-alih jawaban.

Adaptor keputusan adalah bagian yang tidak memiliki padanan di sisi lain. Diberikan sebuah state dan sebuah pertanyaan dengan opsi berlabel, ia mengembalikan softmax terkalibrasi atas label-label tersebut dalam satu forward pass — panggilan yang didokumentasikan meminta vLLM untuk logprob dari id token label yang persis melalui logprob_token_ids dan mengeksponensiasikannya, menghasilkan output berbentuk seperti A: 0.982, B: 0.0035, C: 0.014. Prompt memberi Anda token; ini memberi Anda angka yang dapat Anda tetapkan ambangnya, rata-ratakan, dan hitung log-nya. Ada juga seluk-beluk terdokumentasi yang perlu diketahui sebelum Anda membangun di atasnya: vLLM membatasi logprob_token_ids pada 128 id per permintaan, jadi pertanyaan dengan lebih dari 128 opsi memerlukan id labelnya dipecah menjadi kelompok 128, satu permintaan dengan prompt identik per potongan, dengan hasilnya digabungkan dan satu softmax diterapkan pada seluruh set label. Karena logprob yang dikembalikan mencakup seluruh kosakata, nilai setiap label tidak bergantung pada potongan mana yang memintanya, sehingga hasil yang dipecah secara matematis identik dengan panggilan tanpa batas.

Ucapan pada endpoint yang sama adalah yang kedua. Kirim bagian konten input_audio pada chat completion biasa dan encoder 470M itu mentranskripsinya sebelum menyambungkan transkrip ke konteks. Peringatan IBM spesifik dan layak diulang: hanya bahasa Inggris, keluaran huruf kecil dan tanpa tanda baca, serta encoder dan model bahasa tidak dilatih bersama — tidak ada proyeksi terlatih yang menghubungkan keduanya, sehingga kesalahan transkripsi dapat secara diam-diam mengubah apa yang direspons model. Model edge yang sama sekali tidak memiliki jalur audio menghadapi masalah yang berbeda, bukan berarti tanpa masalah.

Dan adapter keamanan adalah yang ketiga: pengklasifikasi bahaya dan jailbreak yang menggunakan checkpoint yang sama, diaktifkan oleh token kontrol yang disisipkan templat obrolan saat Anda meneruskan sebuah adapter_name, bukan model kedua yang harus di-deploy dan dibayar.

Di mana router cocok ketika jawabannya adalah "keduanya"

Versi realistis dari perbandingan ini berakhir dengan kedua model berada di produk yang sama. LFM2.5 2.6B Base, yang di-fine-tune, di perangkat, menangani apa yang tidak boleh keluar dari perangkat; Granite Switch 4.1 8B, yang di-self-host, menangani keputusan dan transkripsi di sisi server. Itu adalah arsitektur dua tingkat, dan pertanyaan operasional yang muncul adalah apa yang terjadi di sambungannya — model on-device yang gagal, server yang jenuh, permintaan yang perlu jatuh ke sesuatu yang lain. Tidak ada checkpoint yang ada di katalog OrcaRouter saat ini, jadi kami bukanlah cara untuk mendapatkan salah satunya; titik di mana kami menjadi relevan adalah rantai fallback di belakang keduanya. Satu API key mencakup lebih dari 200 model terkelola dengan failover otomatis, DSL routing memungkinkan Anda menyusun beberapa model menjadi satu panggilan alih-alih merangkai fan-out secara manual, dan harga daftar penyedia diteruskan dengan markup 0% sehingga penurunan harga vendor langsung berlaku pada hari yang sama. img src="4.png" alt="Tangkapan layar katalog model OrcaRouter, berjudul 210 model, 16 penyedia, satu API key, satu tagihan, dengan faset modalitas yang menampilkan 173 model teks, 12 gambar, 5 embedding, 10 video, dan 10 TTS, sidebar filter untuk modalitas input, panjang konteks, harga input, status, tingkat akses, seri, dan parameter yang didukung, serta daftar kartu model dari yang terbaru dimulai dengan OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol, dan Anthropic Claude Sonnet 5.5 beserta tarif input dan output per juta token masing-masing." /> Itulah lapisan yang membuat desain dua tingkat bisa bertahan alih-alih rapuh, dan ada baiknya sudah terpasang sebelum tingkat edge mulai gagal di lapangan.

Vonisnya, apa adanya.

Pilih LFM2.5 2.6B Base jika Anda akan melakukan fine-tuning, jika inferensi harus terjadi di perangkat, atau jika jejak 2.69B menjadi batasan keras. Pilih Granite Switch 4.1 8B jika Anda memerlukan distribusi keputusan yang terkalibrasi, pengklasifikasi keamanan inline, atau transkripsi dari endpoint yang sama dengan obrolan, dan jika kontainer yang didukung GPU dapat diterima. Tumpang tindih antara kedua kasus penggunaan itu hampir nol, itulah sebabnya jawaban jujur untuk "mana yang menang" adalah bahwa pertanyaan itu cacat — dan mengapa hal yang lebih berguna untuk dibawa pergi adalah bahwa checkpoint base 2.69B dan model instruct tersusun 8.78B bukanlah dua titik pada satu garis kualitas. Keduanya adalah dua produk berbeda yang kebetulan memiliki jumlah parameter yang berdekatan.