Bonsai 2 против Bonsai 27B: один из них можно скачать, а другой — нельзя.

Самое конкретное различие между Bonsai 2 и Bonsai 27B не имеет ничего общего с бенчмарками. 17 октября 2026 года в библиотеке Ollama появилась запись, охватывающая всё семейство Bonsai 2 — Ternary Bonsai 2 2B, Ternary Bonsai 2 4B, Ternary Bonsai 2 9B и Bonsai 2 27B — а эквивалентной записи для первого поколения нет. Проверьте наличие bonsai-27b, ternary-bonsai-27b или любого вариантного названия в этом реестре — и получите 404. Bonsai 27B, выпущенный Prism ML 14 июля 2026 года, приходится скачивать из репозиториев Hugging Face вендора и запускать на форке llama.cpp от Prism ML. У Bonsai 2 установка в одну строку.

Эта асимметрия — вся практическая суть выбора, и её легко упустить, потому что два названия выглядят как одна продуктовая линейка с обновлением версии. Это два поколения, две базовые модели, два разных набора упаковок и — с этой недели — два разных механизма доставки. Далее — что на самом деле изменилось между ними, где старая версия всё ещё выигрывает и та единственная конфигурация, где ответ — ни то ни другое.

Что представляет собой каждый

Оба являются тернарными сжатиями гибридной модели внимания Qwen. Ни одна из них не является заново обученной моделью — архитектура, веса и обучение с учётом квантования взяты из базовой модели Qwen, а Prism ML привносит тернарное представление и ядра, которые его используют.

• Поколение — Bonsai 2 (сентябрь 2026, продлено в октябре 2026) против Bonsai 27B (14 июля 2026)

• Базовая модель размера 27B — Qwen3.8-27B против Qwen3.6-27B

• Базовые модели во всём семействе — Qwen3.5-2B, -4B, -9B и Qwen3.8-27B в Bonsai 2; единственная Qwen3.6-27B в первом поколении

• Предлагаемые размеры — четыре (2B, 4B, 9B, 27B) против одного (27B)

• Две рабочие точки на 27B — нет, одна: Bonsai 2 27B поставляется только в тернарном варианте, тогда как Bonsai 27B поставлялся и в тернарной, и в бинарной сборке

• Наименьший объём в классе 27B — 5,95 ГБ PTQ1_0 в Bonsai 2 против 3,9 ГБ в 1-битной сборке первого поколения

• Контекст — 262 144 токена, унаследованных от бэкбона Q​wen на обоих

• Лицензия — Apache 2.0 для обоих

• Поставка — теги Ollama и Hugging Face для Bonsai 2; Hugging Face плюс форк llama.cpp от Prism ML для Bonsai 27B

Строка, от которой зависит больше развёртываний, чем от остальных, — пятая. Bonsai 27B поставлялся с двумя способами расходования памяти: троичная сборка примерно на 7,2 ГБ и бинарная сборка на 3,9 ГБ. Bonsai 2 27B поставляется с одной — троичной сборкой на 5,95 ГБ в упаковке с плотными тритами или на 7,21 ГБ в упаковке со 2-битными слотами — и в этом поколении нет бинарного аналога. Если вы запускали сборку первого поколения на 3,9 ГБ и ожидали равноценного преемника, то на 27B его нет.

Что поколение на самом деле купило

Собственные цифры Prism ML, на собственном стенде Prism ML, при отсутствии доступного независимого воспроизведения: тернарная Bonsai 27B первого поколения сообщала о среднем в режиме размышления 80,49 против 85,07 у её эталонной Qwen3.6-27B FP16 — 94,6% сохранено на 15 бенчмарках. Bonsai 2 27B сообщает 84,78 против 86,32 у Qwen3.8-27B FP16 — 98,2% на 14 бенчмарках. В абсолютных величинах сжатая модель прибавила около 4,3 пункта по шкале производителя.

Две оговорки нужно сделать одновременно, потому что заголовок наводит на более однозначную трактовку, чем позволяют данные. Во-первых, наборы бенчмарков не совпадают — 15 для одного, 14 для другого — и базовая модель сменилась с Qwen3.6-27B на Qwen3.8-27B, которая сама по себе была более сильной моделью. Собственная карточка модели 27B от вендора делает второй пункт явным, пересчитывая предыдущий релиз на новом наборе из 14 бенчмарков для сопоставимой строки: на этой общей основе предыдущий релиз набирает 80,98, а Bonsai 2 27B — 84,78. Так что честная трактовка изменения — примерно 3,8 пункта при одном и том же наборе бенчмарков, причём часть этого идёт от базовой модели, а часть — от троичного обучения. Процент сохранения вырос с 94,6% до 98,2% отчасти потому, что изменился знаменатель.

Во-вторых, структура потерь информативнее, чем агрегированный показатель. На том же наборе из 14 бенчмарков Bonsai 2 27B почти ничего не теряет там, где проявляется устойчивое рассуждение: математика — 96,57 против 97,06, программирование — 89,42 против 89,07 — на уровне, немного впереди — а следование инструкциям — 82,66 против 81,25, впереди. Знания и рассуждения падают с 85,55 до 79,86, а зрение — с 71,36 до 66,19. Это тот профиль, которого следует ожидать от представления с 1,72 бита на вес: ядро рассуждений выживает, а фактологическая память и понимание изображений принимают удар на себя. Если ваша рабочая нагрузка — это код и математика, сжатие почти ничего не стоит. Если же это вопросно-ответная задача с извлечением по корпусу, то нет.

Слот объёмом 3,9 ГБ — вот тут становится интересно.

Вот что скрывает двухпоколенческая рамка. Самым характерным артефактом первого поколения была бинарная сборка: модель 27B в 3,9 ГБ, сохраняющая заявленные производителем 89,5% от FP16 при среднем по 15 бенчмаркам 76,11. У Bonsai 2 нет бинарной 27B-версии. Но у Bonsai 2 есть 9B — 1,997 ГБ в плотной тритовой упаковке и 2,42 ГБ в упаковке со 2-битными слотами — примерно половина занимаемого объёма бинарной 27B, из более нового поколения и на более новой базовой модели.

Лучше ли 9B, чем 1-битная 27B? Производитель не приводит числа, которое отвечало бы на этот вопрос, и вам не следует его конструировать. Две модели оценивались на разных наборах тестов — 19 бенчмарков в шести областях навыков для малых моделей Bonsai 2, 15 для 27B первого поколения — на разных базовых уровнях, а в отчётах о выпуске малых моделей указывается сохранение категории относительно их собственных полноточных аналогов Qwen3.5, а не единое абсолютное среднее, сопоставимое с 76.11 у 27B. Существующие сравнения проводятся по отдельным бенчмаркам и указывают в обе стороны. По данным производителя, 9B набирает 71.81 на BFCLv3 и 73.02 на Tau2Bench, тогда как бинарная 27B показала 74.41 на BFCL v3 — разница достаточно мала, чтобы её поглотила разница в наборах тестов.

То, что можно утверждать без преувеличений, оказывается более узким и всё ещё полезным: класс по объёму занимаемой памяти, который binary 27B раньше занимала в одиночку, теперь получил более дешёвого участника из следующего поколения, и эти двое настолько близки, что никому не стоит выбирать между ними по таблице от вендора. Это аргумент за то, чтобы измерять на собственных промптах, а не доверять числу. Это также единственное место в этом сравнении, где ответ действительно не относится ни к одной из двух моделей из заголовка.

Их запуск: цифры и подвох

Показатели пропускной способности измерены производителями и получены не на одной и той же машине, поэтому воспринимайте их как порядки величин, а не как рейтинг.

• Bonsai 2 27B на Apple M5 Max — около 47 tok/s на более ранней предротационной сборке; ожидается повторное измерение на текущем стеке

• Bonsai 2 27B на M5 Pro — 28,1 ток/с в упаковке 2-битных слотов, примерно при 27,5 Вт по линии питания GPU

• Bonsai 2 27B на RTX 5090 — 129,9 ток/с при 2-битной слотовой упаковке, 120,5 — при плотной тритовой упаковке

• Тернарная Bonsai 27B первого поколения на M5 Max — 44,0 ток/с; на H100 — 98,0 ток/с, поднимаясь примерно до 131,8 с собственным драфтером DSpark

• Бинарная Bonsai 27B первого поколения на iPhone 17 Pro Max — около 11 ток/с, ограничено нагревом

Загвоздка в упаковке, и она одинаково бьёт по обоим поколениям. Тернарные ядра ни одного из поколений не входят в upstream llama.cpp. Первому поколению нужен форк Prism ML для каждого файла. Bonsai 2 поставляется в трёх вариантах упаковки одних и тех же весов, и upstream llama.cpp запускает ровно один из них — Q2_0, в недавнем master, — а меньший PTQ1_0 и более быстрый PQ2_0 отвергает как неизвестные типы. Так что плотная тритовая упаковка, которая ближе всего подходит к теоретическим 1,72 бита на вес, — это также та, для которой требуется сборка из форка.

Над этим стоит задержаться, потому что это объясняет листинг Ollama. Теги Ollama для Bonsai 2 отдают Q2_0: слой модели тега 9B занимает 2,557 ГБ — байт в байт столько же, сколько размер файла Q2_0 на Hugging Face, а самого маленького пакета PTQ1_0 в реестре нет вообще. Чем бы ни был этот листинг, он не является путём к самому маленькому артефакту. Здесь идёт обмен удобства на занимаемый объём, и этот обмен незаметен, если не читать размеры файлов.

Добраться до любого из них

Если вы работаете на Ollama, решение уже принято за вас: Bonsai 2, четыре размера, ollama pull bonsai-2:27b или :9b, примерно 8,3 ГБ и 3,2 ГБ на диске вместе с проектором зрения. Если вам нужна плотная тритовая упаковка, черновые модели для спекулятивного декодирования или что-либо из первого поколения, то это загрузка с Hugging Face и сборка форка, а демонстрационный репозиторий вендора — проверенный эталон для этого пути.

Там, где слой маршрутизации действительно помогает в данном случае, — это с другой стороны вопроса. Вы не можете маршрутизировать ни к одному из них — это локальные веса, и OrcaRouter сегодня не обслуживает ни один размер Bonsai. Что OrcaRouter даёт вам — это базовую линию для сравнения: один API перед более чем 200 размещёнными моделями с наценкой 0%, прайс-лист провайдера передаётся как есть, с автоматическим переключением при сбое между провайдерами. Разумная последовательность для большинства команд — сначала определить на размещённой модели, что на самом деле требуется задаче, а затем решить, преодолевает ли эту планку локальная модель на 2 ГБ, 3,9 ГБ или 6 ГБ, — вместо того чтобы гадать по проценту удержания.

Какой именно, конкретно?

• Вы хотите получить новейшее тернарное поколение на 27B и установку одной командой — Bonsai 2 27B через Ollama, мирясь с упаковкой Q2_0 и большим размером на диске.

• Вам нужны самые маленькие возможные артефакты класса 27B, или вы полагаетесь на драфтер DSpark — Bonsai 27B первого поколения от Hugging Face, со сборкой форка. Ничто в Bonsai 2 не заменяет его на 27B.

• Вы запускали бинарную сборку объёмом 3,9 ГБ, и этот объём должен остаться прежним — не предполагайте, что у Bonsai 2 есть преемник. Либо оставайтесь, либо проверьте Bonsai 2 9B на своих собственных промптах; он вдвое меньше и на поколение новее, а производитель не опубликовал сравнение, которое бы это решило.

• Вам нужны четыре класса размера из одного рантайма — Bonsai 2 — единственное поколение, которое это предлагает.

Одна вещь, за которой стоит следить и которая упростила бы всё это: появление тега ptq1_0 в списке Ollama. Это означало бы, что ядра dense-trit добрались до движка, который поставляет Ollama, необходимость форка для самого маленького пакета отпадает, а компромисс между удобством и занимаемым объёмом перестаёт быть компромиссом.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.