Bonsai 2 kontra Bonsai 27B: jednego z nich możesz pobrać, drugiego nie

Najbardziej konkretna różnica między Bonsai 2 a Bonsai 27B nie ma nic wspólnego z benchmarkami. 17 października 2026 r. pojawił się wpis w bibliotece Ollama obejmujący całą rodzinę Bonsai 2 — Ternary Bonsai 2 2B, Ternary Bonsai 2 4B, Ternary Bonsai 2 9B i Bonsai 2 27B — a dla pierwszej generacji nie ma równoważnego wpisu. Sprawdź bonsai-27b, ternary-bonsai-27b lub dowolną nazwę wariantu w tym rejestrze, a otrzymasz 404. Bonsai 27B, wydany przez Prism ML 14 lipca 2026 r., trzeba pobrać z repozytoriów Hugging Face dostawcy i uruchomić na forku llama.cpp Prism ML. Bonsai 2 ma jednoliniową instalację.

Ta asymetria to cały praktyczny kształt tego wyboru i łatwo ją przeoczyć, ponieważ obie nazwy wyglądają jak jedna linia produktów z podbiciem wersji. To dwie generacje, dwa modele bazowe, dwa różne zestawy opakowań i — od tego tygodnia — dwa różne mechanizmy dostarczania. W dalszej części opisano, co faktycznie zmieniło się między nimi, gdzie starszy wciąż wygrywa oraz tę jedną konfigurację, w której odpowiedź nie brzmi ani tak, ani tak.

Czym jest każdy z nich

Obie są ternarnymi kompresjami modelu hybrydowej uwagi Qwen. Żadna z nich nie jest nowo wytrenowanym modelem — architektura, wagi i trening świadomy kwantyzacji pochodzą z bazy Qwen, a to, co wnosi Prism ML, to reprezentacja ternarna i jądra, które ją konsumują.

• Generacja — Bonsai 2 (wrzesień 2026, przedłużona do października 2026) vs Bonsai 27B (14 lipca 2026)

• Model bazowy w rozmiarze 27B — Qwen3.8-27B vs Qwen3.6-27B

• Modele bazowe w całej rodzinie — Qwen3.5-2B, -4B, -9B i Qwen3.8-27B w ramach Bonsai 2; pojedynczy Qwen3.6-27B w pierwszej generacji

• Oferowane rozmiary — cztery (2B, 4B, 9B, 27B) kontra jeden (27B)

• Dwa punkty operacyjne przy 27B — nie, jeden: Bonsai 2 27B jest dostarczany wyłącznie w wariancie trójwartościowym, podczas gdy Bonsai 27B był dostarczany zarówno w wariancie trójwartościowym, jak i binarnym

• Najmniejsza zajętość w klasie 27B — 5,95 GB PTQ1_0 w Bonsai 2 w porównaniu z 3,9 GB w 1-bitowej kompilacji pierwszej generacji

• Kontekst — 262 144 tokeny odziedziczone z backbone'u Qwen na obu

• Licencja — Apache 2.0 w obu przypadkach

• Dostarczanie — tagi Ollama i Hugging Face dla Bonsai 2; Hugging Face oraz fork llama.cpp od Prism ML dla Bonsai 27B

Wiersz, który przesądza o większej liczbie wdrożeń niż pozostałe, to piąty. Bonsai 27B był dostarczany w dwóch wariantach zużycia pamięci: kompilacja ternarna zajmująca około 7,2 GB oraz kompilacja binarna zajmująca 3,9 GB. Bonsai 2 27B dostarcza jedną — kompilację ternarną zajmującą 5,95 GB w upakowaniu gęstych tritów albo 7,21 GB w upakowaniu 2-bitowych slotów — a w tej generacji nie ma towarzyszącej kompilacji binarnej. Jeśli korzystałeś z kompilacji 3,9 GB z pierwszej generacji i oczekiwałeś równoważnego następcy, to nie ma takiego w 27B.

Co właściwie kupiło to pokolenie

Własne wyniki Prism ML, na własnym stanowisku testowym Prism ML, bez dostępnej niezależnej reprodukcji: pierwszej generacji ternarny Bonsai 27B raportował średnią w trybie myślenia na poziomie 80,49 wobec 85,07 dla referencyjnego Qwen3.6-27B FP16 — 94,6% utrzymane w 15 benchmarkach. Bonsai 2 27B raportuje 84,78 wobec 86,32 dla Qwen3.8-27B FP16 — 98,2% w 14 benchmarkach. W ujęciu bezwzględnym skompresowany model zyskał około 4,3 punktu w skali dostawcy.

Dwie uwagi należy wygłosić jednym tchem, ponieważ nagłówek zachęca do czystszego odczytu, niż wynika to z danych. Po pierwsze, zestawy benchmarków nie są tym samym zbiorem — 15 w jednym, 14 w drugim — a punkt odniesienia przesunął się z Qwen3.6-27B na Qwen3.8-27B, który sam był silniejszym modelem. Karta modelu 27B samego dostawcy unaocznia drugą kwestię, przeliczając poprzednie wydanie na nowym zestawie 14 benchmarków, aby uzyskać wiersz umożliwiający bezpośrednie porównanie: na tej wspólnej podstawie poprzednie wydanie uzyskuje 80,98, a Bonsai 2 27B uzyskuje 84,78. Uczciwy odczyt tej zmiany to więc około 3,8 punktu względem tego samego zestawu benchmarków, przy czym część tego wynika z modelu bazowego, a część z treningu ternarnego. Odsetek retencji wzrósł z 94,6% do 98,2% częściowo dlatego, że zmienił się mianownik.

Po drugie, kształt strat jest bardziej informacyjny niż wartość zagregowana. W tym samym zestawie 14 benchmarków Bonsai 2 27B prawie nic nie traci tam, gdzie liczy się długotrwałe rozumowanie: matematyka 96,57 wobec 97,06, kodowanie 89,42 wobec 89,07 — poziom, nieznacznie z przodu — a podążanie za instrukcjami 82,66 wobec 81,25, z przodu. Wiedza i rozumowanie spadają z 85,55 do 79,86, a wizja z 71,36 do 66,19. To profil, jakiego można oczekiwać po reprezentacji 1,72 bitu na wagę: rdzeń rozumowania przetrwa, a przywoływanie faktów i rozumienie obrazów ponoszą koszt. Jeśli Twoim obciążeniem pracą jest kod i matematyka, kompresja jest niemal darmowa. Jeśli jest to odpowiadanie na pytania w stylu wyszukiwania w korpusie, już nie.

Slot 3,9 GB to miejsce, w którym robi się ciekawie

Oto część, którą ukrywa ujęcie dwóch generacji. Najbardziej charakterystycznym artefaktem pierwszej generacji był build binarny: model 27B w 3,9 GB, zachowujący — według danych dostawcy — 89,5% FP16 przy średniej z 15 benchmarków wynoszącej 76,11. Bonsai 2 nie ma binarnego modelu 27B. Ale Bonsai 2 ma model 9B o rozmiarze 1,997 GB w upakowaniu dense-trit i 2,42 GB w upakowaniu 2-bit-slot — mniej więcej połowę rozmiaru binarnego 27B, z nowszej generacji i nowszego modelu bazowego.

Czy 9B jest lepszy niż 1-bitowy 27B? Dostawca nie podaje liczby, która odpowiadałaby na to pytanie, i nie należy jej tworzyć. Oba modele oceniano na różnych zestawach — 19 benchmarków w sześciu obszarach umiejętności dla małych modeli Bonsai 2, 15 dla pierwszej generacji 27B — względem różnych punktów odniesienia, a raporty wydania małych modeli podają retencję kategorii względem ich własnych odpowiedników Qwen3.5 w pełnej precyzji, a nie jedną bezwzględną średnią porównywalną z 76,11 dla 27B. Porównania, które istnieją, są na poziomie poszczególnych benchmarków i wskazują w obu kierunkach. Według liczb dostawcy 9B osiąga 71,81 w BFCLv3 i 73,02 w Tau2Bench, podczas gdy binarny 27B uzyskał 74,41 w BFCL v3 — wystarczająco blisko, by różnica zestawów to pochłonęła.

To, co można powiedzieć bez przesady, jest węższe i wciąż użyteczne: klasa rozmiaru, którą binarny 27B kiedyś zajmował samodzielnie, ma teraz tańszego uczestnika z następnej generacji, a oba są wystarczająco blisko siebie, że nikt nie powinien wybierać między nimi na podstawie tabeli dostawcy. To przemawia za mierzeniem na własnych promptach, a nie za zaufaniem liczbie. To także jedyne miejsce w tym porównaniu, w którym odpowiedź to naprawdę żaden z dwóch modeli z tytułu.

Ich prowadzenie: liczby i haczyk

Wartości przepustowości są mierzone przez producentów i nie zostały uzyskane na tym samym urządzeniu, dlatego należy je odczytywać jako rzędy wielkości, a nie jako ranking.

• Bonsai 2 27B na Apple M5 Max — około 47 tok/s na wcześniejszej kompilacji sprzed rotacji, w oczekiwaniu na ponowny pomiar na bieżącym stosie

• Bonsai 2 27B na M5 Pro — 28,1 tok/s w pakowaniu 2-bit-slot, przy około 27,5 W na szynie GPU

• Bonsai 2 27B na RTX 5090 — 129,9 tok/s w upakowaniu 2-bit-slot, 120,5 w upakowaniu dense-trit

• Ternarny Bonsai 27B pierwszej generacji na M5 Max — 44,0 tok/s; na H100 — 98,0 tok/s, rosnąc do około 131,8 z jego modelem draftującym DSpark

• Binarny Bonsai 27B pierwszej generacji na iPhone 17 Pro Max — około 11 tok/s, ograniczony termicznie

Haczyk tkwi w pakowaniu i działa tak samo dla obu generacji. Jądra trójkowe żadnej z generacji nie znajdują się w upstreamowym llama.cpp. Pierwsza generacja wymaga forka Prism ML dla każdego pliku. Bonsai 2 dostarcza trzy sposoby pakowania tych samych wag, a upstreamowy llama.cpp obsługuje dokładnie jeden z nich — Q2_0, w niedawnym masterze — odrzucając mniejszy PTQ1_0 i szybszy PQ2_0 jako nieznane typy. Zatem gęste pakowanie tritów, które jest najbliższe teoretycznym 1,72 bita na wagę, jest również tym, które wymaga zbudowania z forka.

Warto się nad tym zatrzymać, bo to wyjaśnia wpis w Ollama. Tagi Ollama dla Bonsai 2 obsługują Q2_0: warstwa modelu taga 9B ma 2,557 GB, co do bajtu tyle, ile rozmiar pliku Q2_0 na Hugging Face, a najmniejszy pakiet PTQ1_0 w ogóle nie występuje w rejestrze. Czymkolwiek jeszcze jest ten wpis, nie jest drogą do najmniejszego artefaktu. Handluje się tu wygodą i rozmiarem, a ta wymiana pozostaje niewidoczna, jeśli nie spojrzy się na rozmiary plików.

Dostanie się do któregokolwiek z nich

Jeśli korzystasz z Ollama, decyzja zapada za Ciebie: Bonsai 2, cztery rozmiary, ollama pull bonsai-2:27b lub :9b, około 8,3 GB i 3,2 GB na dysku, łącznie z projektorem wizyjnym. Jeśli potrzebujesz pakowania dense-trit, modeli szkicujących do dekodowania spekulatywnego albo czegokolwiek z pierwszej generacji, to pobranie z Hugging Face i kompilacja forka, a repozytorium demonstracyjne dostawcy jest przetestowanym punktem odniesienia dla tej ścieżki.

Miejsce, w którym warstwa routingu naprawdę się tu przydaje, leży po drugiej stronie tego pytania. Nie można kierować ruchu do żadnego z nich — to lokalne wagi, a OrcaRouter nie udostępnia dziś żadnego rozmiaru Bonsai. OrcaRouter daje natomiast punkt odniesienia do porównań: jedno API przed ponad 200 hostowanymi modelami przy 0% marży, z przekazywaną ceną katalogową dostawcy i automatycznym przełączaniem awaryjnym między dostawcami. Rozsądna kolejność działań dla większości zespołów to ustalenie na modelu hostowanym, czego dane zadanie faktycznie wymaga, a następnie decyzja, czy lokalny model o rozmiarze 2 GB, 3,9 GB czy 6 GB spełnia ten warunek — zamiast zgadywania na podstawie procentu retencji.

Który konkretnie?

• Chcesz najnowszą generację ternarną 27B i instalację jedną komendą — Bonsai 2 27B przez Ollama, akceptując upakowanie Q2_0 i większy rozmiar na dysku.

• Chcesz najmniejsze możliwe artefakty klasy 27B albo polegasz na drafterze DSpark — pierwszej generacji Bonsai 27B z Hugging Face, z buildem forka. Nic w Bonsai 2 nie zastępuje go przy 27B.

• Uruchamiałeś binarną kompilację o rozmiarze 3,9 GB i potrzebujesz, aby ten rozmiar się utrzymał — nie zakładaj, że Bonsai 2 ma następcę. Albo zostań, albo zmierz Bonsai 2 9B na własnych promptach; jest o połowę mniejszy i o jedną generację nowszy, a dostawca nie opublikował porównania, które to rozstrzyga.

• Potrzebujesz czterech klas rozmiaru z jednego środowiska uruchomieniowego — Bonsai 2 to jedyna generacja, która to oferuje.

Jedna rzecz, na którą warto zwrócić uwagę, a która uprościłaby to wszystko: ptq1_0 – tag pojawiający się na liście Ollama. Oznaczałoby to, że gęsto-tritowe jądra trafiły do silnika, który dostarcza Ollama, wymóg forka znika dla najmniejszego pakietu, a kompromis między wygodą a śladem przestaje być kompromisem.

Nic z tego nie jest hipotetyczne: udokumentowane awarie AI i incydenty z agentami stojące za takimi wydaniami jak to są zebrane w the OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, stopień ważności, ocenę pewności i oznaczenie sporne.