Bonsai 2 vs Ternary Bonsai 2 27B: Nama Keluarga Ini Melakukan Dua Pekerjaan

Cari Bonsai 2 dan Anda akan menemukan sekitar lima artefak berbeda dengan jejak yang merentang satu orde besaran, dan tidak jelas dari namanya artefak mana yang sedang dibicarakan oleh sebuah artikel tertentu. Ternary Bonsai 2 27B adalah yang spesifik — model ternary kelas 27B tunggal yang dibangun di atas Qwen3.8-27B, diumumkan pada 17 September 2026 dan dirilis sebagai paket dense-trit 5,95 GB atau paket 2-bit-slot 7,21 GB. Polos Bonsai 2 adalah payungnya: nama yang sama mencakup Ternary Bonsai 2 2B, Ternary Bonsai 2 4B dan Ternary Bonsai 2 9B, tiga model yang jauh lebih kecil yang dibangun di atas Qwen3.5 dan diumumkan pada 15 Oktober 2026, dan kini juga mencakup entri pustaka Ollama yang menyajikan keempat ukuran di bawah satu keluarga tag.

Jadi ini bukan adu langsung yang biasa. Satu sisi adalah subset dari sisi lainnya, dan pertanyaan yang berguna bukanlah mana yang lebih baik, melainkan mana di antara keduanya yang sebenarnya diinginkan oleh pembaca yang mengetik "Bonsai 2" ke kotak pencarian. Jawabannya bergantung pada sesuatu yang disembunyikan oleh penamaan itu: keluarga ini sebenarnya dua keluarga, terbelah berdasarkan model dasar, dan pembelahan itu tidak jatuh di tempat yang disiratkan oleh angka-angka ukuran.

Dua keluarga menyandang satu nama

Bacalah header GGUF dari file-file yang dipublikasikan dan sambungannya tepat ada di sebuah bidang metadata. Setiap artefak Bonsai 2 — 2B, 4B, 9B dan 27B sama saja — melaporkan general.architecture = qwen35. String itu adalah tulang punggung hybrid-attention Qwen3.5, dan untuk ketiga yang kecil itu tepat: kartu model mencantumkan Qwen3.5-2B, Qwen3.5-4B dan Qwen3.5-9B sebagai model dasar dengan arsitektur yang tidak berubah. 27B adalah makhluk yang berbeda. Basisnya adalah Qwen3.8-27B, model hybrid-attention 27B yang lebih baru dan lebih kuat, dan kebetulan berbagi string arsitektur karena Qwen3.8 mempertahankan keluarga tulang punggung yang sama.

Catatan rilis milik vendor sendiri membuat pemisahan itu terlihat jika Anda membacanya secara berdampingan dan tidak terlihat jika Anda membaca salah satunya saja. Pos 15 Oktober untuk model-model kecil menyatakan bahwa model tersebut "berbasis Qwen3.5" dan menggambarkannya sebagai bergabung dengan Bonsai 2 27B — yang dibingkai secara akurat sebagai hal yang berbeda. Pos 17 September untuk 27B menyebut Qwen3.8-27B. Dua pengumuman, dua model dasar, satu nama keluarga, dan artikel pihak ketiga yang menyatakan "Bonsai 2 berbasis Qwen3.5" salah tentang 27B meskipun tampak sangat didukung sumber yang baik.

Itu penting karena generasi model dasar bukan detail di sini. Ini menetapkan batas kemampuan, ini menetapkan apa persentase retensi itu adalah persentase dari, dan itu berarti angka benchmark model-model kecil dan angka benchmark 27B bukanlah dua titik pada satu kurva — keduanya adalah dua laporan terpisah terhadap dua baseline terpisah. Curigai setiap tabel yang menyejajarkannya dalam satu kolom.

Angka-angkanya, berdampingan

Semua angka dilaporkan oleh vendor Prism ML; tidak satupun direproduksi secara independen.

• Model dasar — Ternary Bonsai 2 2B / 4B / 9B: Qwen3.5-2B, -4B, -9B secara berturut-turut; Ternary Bonsai 2 27B: Qwen3.8-27B

• Diumumkan — 15 Oktober 2026 untuk tiga varian kecil; 17 September 2026 untuk 27B

• Paket model bahasa terkecil — 0,429 GB PTQ1_0 pada 2B; 1,997 GB PTQ1_0 pada 9B; 5,947 GB PTQ1_0 pada 27B

• Paket default — PQ2_0 untuk semuanya: 0.517 GB, 1.146 GB, 2.417 GB dan 7.206 GB masing-masing

• Bit per bobot — ~1,83 pada 2B, ~1,81 pada 4B, ~1,78 pada 9B, 1,72 ideal / 1,75 packed pada 27B

• Konteks — 262.144 token di seluruh keluarga, diwarisi dari tulang punggung Q​wen

• Visi — paket mmproj terpisah di setiap ukuran, dimuat hanya saat gambar masuk

• Lisensi — Apache 2.0 secara menyeluruh

• Retensi sebagaimana dilaporkan — 27B: 98,2% dari Qwen3.8-27B FP16 pada 14 benchmark; model kecil: 19 benchmark di enam area keterampilan, dilaporkan sebagai retensi per kategori terhadap baseline Qwen3.5 mereka sendiri

Satu baris dalam daftar itu adalah alasan 27B membutuhkan 5,95 GB sedangkan 9B membutuhkan 2,00 GB, dan bukan hanya karena jumlah parameternya. 27B digambarkan sebagai "end-to-end ternary" di seluruh embedding, proyeksi attention, proyeksi MLP, dan LM head, dengan detail yang menentukan: sekumpulan kecil tensor — jalur status rekuren dari lapisan linear-attention ditambah bobot normalisasi, sekitar 26,2 juta parameter, 0,0976% dari model bahasa — tetap berada dalam presisi lebih tinggi, dan sisanya itulah yang menggeser angka utama dari 1,71 ke 1,72 bit per bobot. Pada 9B, mesin yang sama menghasilkan ~1,78. Model yang lebih besar lebih efisien per bobot, bukan sebaliknya, karena overhead presisi tinggi yang tetap diamortisasi di sepuluh kali lebih banyak parameter. Jika Anda menalar ukuran mana yang harus dipilih dari tabel bit-per-bobot, itulah arah yang ditunjukkan tabel itu.

Di mana model kecil sebenarnya menang

Bukan soal kualitas — melainkan soal bentuk klaimnya. Rilis model kecil adalah satu-satunya di keluarga ini yang menerbitkan klaim verbositas, dan itu adalah hal yang paling mudah diperiksa yang terdapat dalam kedua pengumuman tersebut: Prism ML melaporkan bahwa 9B menggunakan sekitar 40% lebih sedikit token pada tugas mengikuti instruksi standar dan matematika sehari-hari. Itu adalah pernyataan tentang panjang keluaran, bukan kemampuan, dan Anda dapat memverifikasinya dengan prompt Anda sendiri dalam waktu satu sore. Pos yang sama mencantumkan menghindari loop repetitif dan mengendalikan verbositas sebagai prioritas pengembangan yang eksplisit, yakni jenis hal yang Anda tulis ketika generasi sebelumnya Anda memiliki masalah.

Ini juga satu-satunya rilis yang melaporkan retensi di atas 100% pada beberapa kategori — 121,5% pada instruction following untuk 2B, 107,8% pada matematika, 115,0% pada coding, dibandingkan dengan baseline Qwen3.5 presisi penuh. Itu adalah angka milik vendor pada suite milik vendor sendiri, dan model terkompresi yang mengungguli model sumbernya pada tolok ukur yang dipilih secara sengaja adalah klaim tentang pelatihan dan harness, setidaknya sama besarnya dengan klaim tentang aritmetika terner. Laporan 27B berbentuk lebih konservatif — 84,78 versus 86,32, dengan matematika pada 96,57 versus 97,06 dan level coding pada 89,42 versus 89,07, serta kerugian yang terkonsentrasi pada pengetahuan/penalaran dan visi — yang merupakan profil yang seharusnya dihasilkan oleh representasi 1,7-bit. Ketika kerugian satu laporan mendarat tepat di tempat yang diprediksi teori dan keuntungan laporan lain mendarat pada kategori yang dipilih vendor untuk ditonjolkan, asimetri itu adalah informasi.

Pengemasan: keunggulan senyap 27B

Sejak 17 Oktober 2026, keempat ukuran dapat ditarik sebagai bonsai-2:2b, :4b, :9b, dan :27b dari Ollama — totalnya sembilan tag, setiap ukuran juga membawa alias -q2_0. Itu baru, tidak diumumkan oleh vendor, dan penting untuk mengetahui apa yang sebenarnya disajikannya. Tag Ollama mengarah ke packing Q2_0, satu-satunya yang dapat dimuat oleh upstream llama.cpp. Paket dense-trit PTQ1_0 — file terkecil dalam keluarga ini — sama sekali tidak ada di registry. Jadi jalur yang nyaman dan jalur kecil adalah jalur yang berbeda, untuk keempat ukuran secara setara.

Yang membedakan 27B adalah apa yang tidak disertakan. Model 4B dan 9B masing-masing hadir dengan dua drafter speculative-decoding opsional: sebuah head MTP yang tertanam dalam paket 2-bit-slot, dan drafter blok DFlash2 yang membantu pada pekerjaan yang padat penyalinan dan lebih lambat daripada decoding biasa pada obrolan umum. Model 2B sengaja dikirim tanpa drafter semacam itu — catatan vendor menyebutkan bahwa pada ukuran itu, langkah decode sudah murah dan swept-depth drafting terukur lebih lambat pada prompt sehari-hari daripada decoding biasa. Generasi 27B menghilangkan drafter setara yang dibawa pendahulu generasi pertamanya.

Itu adalah perbedaan kemampuan yang nyata antara ukuran-ukuran tersebut, dan hal itu sama sekali tidak muncul di halaman Ollama.

Memutuskan, dan apa yang harus dilakukan dengan jawabannya

27B adalah pilihan yang tepat jika beban kerjanya adalah penalaran jangka panjang: kode, matematika, rantai alat agentik, dokumen panjang yang ditampung dalam konteks 262K. Ini satu-satunya ukuran dalam keluarga dengan model dasar dari generasi Qwen3.8, dan rincian kategori dari vendor menyatakan bahwa kompresi hampir tidak merugikannya dalam matematika dan pengkodean, tetapi berdampak buruk pada recall pengetahuan dan visi.

9B adalah pilihan yang harus diambil jika kendalanya adalah memori, bukan tingkat kesulitan: asisten yang berjalan di laptop, penerapan di ponsel, apa pun yang membuat 2 GB versus 6 GB menjadi pembeda antara bisa dirilis dan tidak. Profil terbitannya paling kuat justru di area yang paling lemah pada 27B relatif terhadap baseline — mengikuti instruksi dan kontrol verbositas — yang justru menjadi hal tempat asisten lokal kecil menghabiskan tokennya. Model 2B dan 4B ada untuk anggaran yang lebih ketat lagi, dan pada ukuran tersebut angka retensinya menjadi cukup berisik sehingga prompt Anda sendiri lebih baik dijadikan panduan daripada tabel vendor.

Catatan tentang perbandingan yang sebenarnya akan dilakukan sebagian besar pembaca, yaitu terhadap model hosted, bukan terhadap satu sama lain. Tidak ada ukuran Bonsai 2 yang dilayani melalui OrcaRouter, dan artikel ini tidak menyarankan sebaliknya — itu adalah bobot yang Anda unduh. Namun pertanyaan "apakah model lokal 2 GB cukup baik untuk tugas ini" dijawab dengan mengukur terhadap sesuatu, dan OrcaRouter menempatkan satu API di depan 200+ model hosted dengan markup 0% dengan harga daftar penyedia diteruskan, plus failover otomatis antar penyedia dan DSL perutean untuk menyusun beberapa model menjadi satu panggilan. Tetapkan tolok ukurnya dengan model hosted, lalu uji apakah model lokal mampu melewatinya di perangkat keras Anda. Urutan itu menghemat berminggu-minggu yang biasa hilang untuk menyetel unduhan yang tidak akan pernah memadai.

Satu kehati-hatian yang perlu dibawa dari tulisan ini. Kedua rilis melaporkan persentase retensi, keduanya diukur oleh vendor pada harness milik vendor sendiri, dan hingga hari ini belum ada pihak ketiga yang mereproduksi keduanya. Satu hal yang dapat Anda verifikasi sendiri adalah artefaknya — ukuran file, pemaketan, metadata GGUF, lisensi, dan throughput di mesin Anda sendiri. Di situlah tempat untuk memulai, dan di situlah kedua pengumuman berhenti mirip satu sama lain: ukuran paket mandiri 27B dipublikasikan per file di Hugging Face, sedangkan jejak dari mulut ke mulut model-model kecil sebesar 0,43 GB, 0,95 GB, dan 2 GB merujuk pada model bahasa saja dengan tower visi dikecualikan. Bandingkan keduanya atas dasar yang sama, atau 9B akan tampak seperti kalah dalam argumen yang tidak pernah dimilikinya.

Tidak ada satu pun dari itu yang hipotetis: kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda status diperdebatkan.