Bonsai 2 kontra Ternary Bonsai 2 27B: Nazwa rodziny pełni dwie funkcje

Wyszukaj Bonsai 2a trafisz na około pięć różnych artefaktów, których rozmiary różnią się o rząd wielkości, i nie jest oczywiste na podstawie nazwy, o którym z nich mówi dany artykuł. Ternary Bonsai 2 27B to ten konkretny — pojedynczy trójwartościowy model klasy 27B zbudowany na Qwen3.8-27B, ogłoszony 17 września 2026 i dostarczany jako 5,95 GB pakiet gęstych tritów albo 7,21 GB pakiet 2-bitowych slotów. Sam Bonsai 2 to termin parasolowy: ta sama nazwa obejmuje Ternary Bonsai 2 2B, Ternary Bonsai 2 4Bi Ternary Bonsai 2 9B, trzy znacznie mniejsze modele zbudowane na Qwen3.5 i ogłoszone 15 października 2026, a teraz obejmuje również wpis w bibliotece Ollama, który obsługuje wszystkie cztery rozmiary w ramach jednej rodziny tagów.

Więc to nie jest zwykłe starcie jeden na jeden. Jedna strona jest podzbiorem drugiej, a użyteczne pytanie nie brzmi, która jest lepsza, lecz której z nich naprawdę chce czytelnik, który wpisał „Bonsai 2” w pole wyszukiwania. Odpowiedź zależy od czegoś, co nazwa ukrywa: ta rodzina to tak naprawdę dwie rodziny, podzielone według modelu bazowego, a podział nie wypada tam, gdzie sugerują liczby oznaczające rozmiar.

Dwie rodziny noszące jedno nazwisko

Odczytaj nagłówki GGUF opublikowanych plików, a styk jest dokładnie tam, w polu metadanych. Każdy artefakt Bonsai 2 — zarówno 2B, 4B, 9B, jak i 27B — podaje general.architecture = qwen35. Ten ciąg to szkielet hybrydowej uwagi Qwen3.5, i w przypadku tych trzech małych jest dokładnie tak, jak powinno: karty modeli podają Qwen3.5-2B, Qwen3.5-4B i Qwen3.5-9B jako modele bazowe z niezmienioną architekturą. 27B to inna bajka. Jego bazą jest Qwen3.8-27B, nowszy i mocniejszy model 27B z hybrydową uwagą, i przypadkiem dzieli ten sam ciąg architektury, ponieważ Qwen3.8 zachowuje tę samą rodzinę szkieletu.

Notatki o wydaniu samego dostawcy uwidaczniają podział, jeśli czyta się je obok siebie, a czynią go niewidocznym, jeśli czyta się każdą z nich osobno. Wpis z 15 października o małych modelach mówi, że są „oparte na Qwen3.5”, i opisuje je jako dołączające do Bonsai 2 27B — co jest trafnie ujęte jako coś innego. Wpis z 17 września o 27B podaje Qwen3.8-27B. Dwie zapowiedzi, dwa modele bazowe, jedna nazwa rodziny, a artykuł zewnętrzny, który mówi, że „Bonsai 2 opiera się na Qwen3.5”, myli się co do 27B, choć sprawia wrażenie opartego na solidnych źródłach.

To ma znaczenie, ponieważ generacja modelu bazowego nie jest tu szczegółem. Wyznacza pułap możliwości, określa, procentami czego są wartości procentowe retencji, a to oznacza, że wyniki benchmarków małych modeli i wyniki benchmarku modelu 27B nie są dwoma punktami na jednej krzywej — to dwa osobne raporty względem dwóch osobnych punktów odniesienia. Do każdej tabeli, która zestawia je w jednej kolumnie, podchodź z nieufnością.

Liczby, obok siebie

Wszystkie dane liczbowe zostały zgłoszone przez dostawcę Prism ML; żadnych nie odtworzono niezależnie.

• Model bazowy — Ternary Bonsai 2 2B / 4B / 9B: odpowiednio Qwen3.5-2B, -4B, -9B; Ternary Bonsai 2 27B: Qwen3.8-27B

• Ogłoszono — 15 października 2026 r. dla małej trójki; 17 września 2026 r. dla 27B

• Najmniejszy pakiet modelu językowego — 0,429 GB PTQ1_0 dla 2B; 1,997 GB PTQ1_0 dla 9B; 5,947 GB PTQ1_0 dla 27B

• Domyślny pakiet — PQ2_0 dla wszystkich: odpowiednio 0,517 GB, 1,146 GB, 2,417 GB i 7,206 GB

• Bity na wagę — ~1,83 dla 2B, ~1,81 dla 4B, ~1,78 dla 9B, 1,72 idealne / 1,75 spakowane dla 27B

• Kontekst — 262 144 tokeny w całej rodzinie, odziedziczone ze szkieletu Qwen

• Vision — osobny pakiet mmproj dla każdego rozmiaru, ładowany tylko wtedy, gdy pojawi się obraz

• Licencja — Apache 2.0 w całym zakresie

• Utrzymanie wyników zgodnie z raportem — 27B: 98,2% Qwen3.8-27B FP16 w 14 benchmarkach; małe modele: 19 benchmarków w sześciu obszarach umiejętności, raportowane jako utrzymanie wyników według kategorii względem ich własnych poziomów odniesienia Qwen3.5

Jedna linia na tej liście jest powodem, dla którego 27B kosztuje 5,95 GB, a 9B — 2,00 GB, i nie chodzi tylko o liczbę parametrów. Model 27B jest opisywany jako „end-to-end ternary” w embeddingach, projekcjach attention, projekcjach MLP i głowicy LM, z decydującym szczegółem: niewielki zbiór tensorów — ścieżka stanu rekurencyjnego warstw linear attention plus wagi normalizacji, około 26,2 miliona parametrów, 0,0976% modelu językowego — pozostaje w wyższej precyzji, a to właśnie ta pozostałość przesuwa główną wartość z 1,71 do 1,72 bita na wagę. W przypadku 9B ten sam mechanizm daje ~1,78. Większy model jest bardziej, a nie mniej, wydajny na wagę, ponieważ stały narzut wysokiej precyzji rozkłada się na dziesięć razy więcej parametrów. Jeśli rozważasz, który rozmiar wybrać na podstawie tabeli bitów na wagę, to jest ten jeden kierunek, w którym wskazuje tabela.

Gdzie małe modele faktycznie wygrywają

Nie chodzi o jakość — chodzi o kształt twierdzenia. Wydanie małego modelu jest jedynym w tej rodzinie, które publikuje twierdzenie o rozwlekłości, i jest najbardziej sprawdzalną rzeczą, jaką zawiera którakolwiek z tych dwóch zapowiedzi: Prism ML podaje, że 9B zużywa około 40% mniej tokenów w standardowych zadaniach podążania za instrukcjami i codziennych zadaniach matematycznych. To stwierdzenie o długości odpowiedzi, a nie o zdolnościach, i możesz je zweryfikować na podstawie własnych promptów w jedno popołudnie. Ten sam wpis wymienia unikanie powtarzalnych pętli i kontrolowanie rozwlekłości jako wyraźne priorytety rozwojowe, co jest czymś, co piszesz, gdy twoja poprzednia generacja miała problem.

To także jedyne wydanie, które raportuje retencję powyżej 100% w kilku kategoriach — 121,5% w zakresie podążania za instrukcjami dla 2B, 107,8% w matematyce, 115,0% w kodowaniu, w porównaniu z pełnoprecyzyjnymi modelami bazowymi Qwen3.5. Są to własne liczby dostawcy na własnym zestawie testowym dostawcy, a skompresowany model osiągający lepsze wyniki niż jego model źródłowy na ręcznie wybranym benchmarku to twierdzenie co najmniej w równym stopniu o treningu i środowisku testowym, co o arytmetyce trójwartościowej. Raport dla 27B ma bardziej konserwatywny kształt — 84,78 wobec 86,32, z matematyką na poziomie 96,57 wobec 97,06 i poziomem kodowania 89,42 wobec 89,07, a strata koncentruje się w wiedzy/rozumowaniu i wizji — co jest profilem, jaki powinna dawać reprezentacja 1,7-bitowa. Kiedy straty jednego raportu trafiają dokładnie tam, gdzie przewiduje teoria, a zyski drugiego trafiają w kategorie, które dostawca postanowił wyeksponować, ta asymetria jest informacją.

Pakowanie: cicha przewaga 27B

Od 17 października 2026 wszystkie cztery rozmiary można pobierać jako bonsai-2:2b, :4b, :9b i :27b z Ollama — łącznie dziewięć tagów, a każdy rozmiar ma także alias -q2_0. To niedawne, nieogłoszone przez dostawcę, i warto wiedzieć, co tak naprawdę udostępnia. Tagi Ollama prowadzą do pakowania Q2_0 — jedynego, które może wczytać llama.cpp z upstreamu. Gęste tritowe pakiety PTQ1_0 — najmniejsze pliki w rodzinie — w ogóle nie ma ich w rejestrze. Zatem wygodna ścieżka i ścieżka małych plików to różne ścieżki, w równym stopniu dla wszystkich czterech rozmiarów.

To, czym różni się 27B, polega na tym, czego nie dostarcza. Modele 4B i 9B mają po dwa opcjonalne draftery do dekodowania spekulatywnego: głowicę MTP wbudowaną w pakiet 2-bit-slot oraz blokowy drafter DFlash2, który pomaga w zadaniach obfitujących w kopiowanie, a w ogólnym czacie jest wolniejszy niż zwykłe dekodowanie. Model 2B jest celowo dostarczany bez takiego elementu — uwaga producenta jest taka, że przy tym rozmiarze krok dekodowania jest już tani, a drafting o przemiatanej głębokości okazał się wolniejszy na codziennych promptach niż zwykłe dekodowanie. Generacja 27B usunęła równoważny drafter, który nosił jej poprzednik pierwszej generacji.

To jest realna różnica w możliwościach między rozmiarami i nie pojawia się w ogóle na stronie Ollama.

Decydowanie i co zrobić z odpowiedzią

Model 27B jest tym, po który warto sięgnąć, jeśli obciążenie polega na rozumowaniu długoterminowym: kod, matematyka, agentowe łańcuchy narzędzi, długie dokumenty utrzymywane w kontekście 262K. To jedyny rozmiar w rodzinie z modelem bazowym z generacji Qwen3.8, a zestawienie kategorii dostawcy mówi, że kompresja kosztuje go niemal nic w matematyce i kodowaniu, ale daje się we znaki w przywoływaniu wiedzy i wizji.

Model 9B jest tym, po który warto sięgnąć, jeśli ograniczeniem jest pamięć, a nie trudność: asystenci rezydujący na laptopie, wdrożenia telefoniczne, cokolwiek, gdzie 2 GB kontra 6 GB to różnica między wypuszczeniem a niewypuszczeniem. Jego opublikowany profil jest najsilniejszy dokładnie tam, gdzie profil 27B jest najsłabszy względem baseline — przestrzeganie instrukcji i kontrola gadatliwości — czyli to, na co mały lokalny asystent faktycznie wydaje swoje tokeny. Modele 2B i 4B istnieją dla jeszcze bardziej ograniczonych budżetów, a przy tych rozmiarach liczby dotyczące retencji stają się na tyle hałaśliwe, że własne prompty są lepszym przewodnikiem niż tabela dostawcy.

Uwaga o porównaniu, którego większość czytelników faktycznie dokona, a które dotyczy modeli hostowanych, a nie porównywania ich ze sobą. Żaden z rozmiarów Bonsai 2 nie jest udostępniany przez OrcaRouter i ten artykuł nie sugeruje czegoś przeciwnego — to wagi, które pobierasz. Ale na pytanie „czy lokalny model o rozmiarze 2 GB jest wystarczająco dobry do tego zadania” odpowiada się, mierząc względem czegoś, a OrcaRouter stawia jedno API przed ponad 200 hostowanymi modelami z 0% marży z przekazywaną ceną katalogową dostawcy, plus automatyczne przełączanie awaryjne między dostawcami i DSL routingu do komponowania kilku modeli w jedno wywołanie. Ustal poprzeczkę za pomocą modelu hostowanego, a następnie sprawdź, czy lokalny ją przekroczy na twoim sprzęcie. Taka kolejność oszczędza tygodnie, które ludzie tracą na dostrajanie pobranego modelu, który nigdy nie miał być wystarczający.

Jedna przestroga, którą warto wynieść z tego tekstu. Oba wydania podają procentowe wskaźniki retencji, oba są mierzone przez dostawcę na jego własnym stanowisku testowym, a na dzień dzisiejszy żadna strona trzecia nie odtworzyła żadnego z nich. Jedyną rzeczą, którą możesz zweryfikować samodzielnie, jest artefakt — rozmiary plików, sposoby pakowania, metadane GGUF, licencja i przepustowość na własnej maszynie. Od tego warto zacząć, i tu również kończy się podobieństwo obu ogłoszeń: samodzielne rozmiary pakietów modelu 27B są publikowane dla każdego pliku na Hugging Face, a podawany z ust do ust rozmiar małych modeli — 0,43 GB, 0,95 GB i 2 GB — odnosi się wyłącznie do modelu językowego, z wyłączeniem wieży wizyjnej. Porównuj je na tej samej podstawie, bo inaczej 9B będzie wyglądać, jakby przegrał spór, którego nigdy nie toczył.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.