Bonsai 2 против Ternary Bonsai 2 27B: название семейства выполняет две задачи

Поиск по Bonsai 2 приведёт вас примерно к пяти разным артефактам, размеры которых различаются на порядок, и по названию неочевидно, о каком именно из них говорится в конкретной статье. Ternary Bonsai 2 27B — это тот самый: одна тернарная модель класса 27B, построенная на Qwen3.8-27B, анонсированная 17 сентября 2026 года и поставляемая в виде плотного trit-пакета размером 5,95 ГБ или пакета с 2-битными слотами размером 7,21 ГБ. Само по себе Bonsai 2 — это зонтичное название: одно и то же имя охватывает Ternary Bonsai 2 2B, Ternary Bonsai 2 4B и Ternary Bonsai 2 9B, три гораздо меньшие модели, построенные на Qwen3.5 и анонсированные 15 октября 2026 года, а теперь оно также охватывает запись в библиотеке Ollama, которая обслуживает все четыре размера в рамках одного семейства тегов.

Итак, это не обычное прямое сравнение. Одна сторона является подмножеством другой, и полезный вопрос не в том, что лучше, а в том, какое из них на самом деле хочет читатель, введший «Bonsai 2» в поисковую строку. Ответ зависит от того, что скрывает название: это семейство — два семейства, разделённых по базовой модели, и это разделение проходит не там, где предполагают числа размера.

Две семьи, носящие одно имя

Прочитайте заголовки GGUF опубликованных файлов — и шов тут как тут, прямо в поле метаданных. Каждый артефакт Bonsai 2 — будь то 2B, 4B, 9B или 27B — сообщает general.architecture = qwen35. Эта строка — бэкбон Qwen3.5 с гибридным вниманием, и для трёх младших она абсолютно верна: в карточках моделей в качестве базовых указаны Qwen3.5-2B, Qwen3.5-4B и Qwen3.5-9B с неизменённой архитектурой. А 27B — совсем другой зверь. Его база — Qwen3.8-27B, более новая и более мощная 27B-модель с гибридным вниманием, и она просто совпадает по строке архитектуры, потому что Qwen3.8 сохраняет то же семейство бэкбона.

Собственные примечания к выпуску вендора делают это разделение заметным, если читать их рядом, и незаметным, если читать любое из них по отдельности. В посте от 15 октября о небольших моделях говорится, что они «основаны на Qwen3.5», и они описываются как присоединяющиеся к Bonsai 2 27B — который там точно представлен как нечто иное. В посте от 17 сентября о 27B указано Qwen3.8-27B. Два анонса, две базовые модели, одно имя семейства — и сторонняя статья, в которой говорится, что «Bonsai 2 основан на Qwen3.5», ошибается насчёт 27B, при этом выглядя безупречно подтверждённой источниками.

Это важно, потому что поколение базовой модели здесь не деталь. Оно задаёт потолок возможностей, оно определяет,от чего считаются проценты сохранения, и это значит, что результаты бенчмарков маленьких моделей и результаты бенчмарков 27B — не две точки на одной кривой, а два отдельных отчёта относительно двух разных базовых уровней. К любой таблице, которая выстраивает их в один столбец, относитесь с подозрением.

Числа, бок о бок

Все показатели приведены по данным поставщика Prism ML; ни один не был независимо воспроизведён.

• Базовая модель — Ternary Bonsai 2 2B / 4B / 9B: Qwen3.5-2B, -4B, -9B соответственно; Ternary Bonsai 2 27B: Qwen3.8-27B

• Объявлено — 15 октября 2026 г. для малой тройки; 17 сентября 2026 г. для 27B

• Самый компактный пакет языковой модели — 0,429 ГБ PTQ1_0 при 2B; 1,997 ГБ PTQ1_0 при 9B; 5,947 ГБ PTQ1_0 при 27B

• Пакет по умолчанию — PQ2_0 для всех них: 0,517 ГБ, 1,146 ГБ, 2,417 ГБ и 7,206 ГБ соответственно

Бит на вес — ~1,83 при 2B, ~1,81 при 4B, ~1,78 при 9B, 1,72 идеально / 1,75 упаковано при 27B

• Контекст — 262 144 токена во всём семействе, унаследованный от основы Q​wen

• Vision — отдельный пакет mmproj для каждого размера, загружается только при поступлении изображения

• Лицензия — Apache 2.0 повсеместно

• Сохранение, согласно отчёту, — 27B: 98,2% от Qwen3.8-27B FP16 на 14 бенчмарках; малые модели: 19 бенчмарков в шести областях навыков, представлено как сохранение по категориям относительно их собственных базовых показателей Qwen3.5

Одна строка в том списке — причина того, что 27B занимает 5,95 ГБ, тогда как 9B — 2,00 ГБ, и дело не только в числе параметров. 27B описывается как «сквозной тернарный» для эмбеддингов, проекций внимания, проекций MLP и LM head, с решающей деталью: небольшой набор тензоров — путь рекуррентного состояния слоёв линейного внимания плюс веса нормализации, около 26,2 млн параметров, 0,0976% языковой модели — остаётся в более высокой точности, и именно этот остаток сдвигает итоговый показатель с 1,71 до 1,72 бита на вес. На 9B тот же механизм даёт ~1,78. У более крупной модели эффективность на вес выше, а не ниже, потому что фиксированные накладные расходы на высокую точность распределяются на в десять раз большее число параметров. Если вы рассуждаете о том, какой размер выбрать по таблице бит на вес, то именно в эту сторону и указывает таблица.

Где малые модели действительно выигрывают

Дело не в качестве — дело в форме утверждения. Выпуск малой модели — единственный в этом семействе, который публикует заявление о многословности, и это самое легко проверяемое из всего, что содержится в любом из этих двух анонсов: Prism ML сообщает, что 9B использует примерно на 40% меньше токенов в стандартных задачах на следование инструкциям и повседневных математических задачах. Это утверждение о длине вывода, а не о способностях, и вы можете проверить его на собственных промптах за полдня. В том же посте в качестве явных приоритетов разработки перечислены избегание повторяющихся циклов и контроль многословности — а такое обычно пишешь, когда у предыдущего поколения была проблема.

Это также единственный релиз, который сообщает о сохранении выше 100% по нескольким категориям — 121,5% на следовании инструкциям для 2B, 107,8% на математике, 115,0% на программировании, по сравнению с полноточными базовыми показателями Qwen3.5. Это собственные цифры вендора на его собственном наборе тестов, и то, что сжатая модель обходит свою исходную модель на специально подобранном бенчмарке, — это утверждение об обучении и тестовом стенде в не меньшей степени, чем о троичной арифметике. Отчёт для 27B выглядит более консервативно — 84,78 против 86,32, при математике 96,57 против 97,06 и уровне программирования 89,42 против 89,07, а потери сосредоточены в категориях знаний/рассуждений и зрения — именно такой профиль должно давать 1,7-битное представление. Когда потери в одном отчёте оказываются ровно там, где предсказывает теория, а приросты в другом — в категориях, которые вендор решил вынести в заголовки, эта асимметрия — информация.

Упаковка: тихое преимущество 27B

С 17 октября 2026 года все четыре размера можно загрузить из Ollama как bonsai-2:2b, :4b, :9b и :27b — всего девять тегов, причём у каждого размера также есть псевдоним -q2_0. Это недавно, вендор об этом не объявлял, и стоит знать, что оно на самом деле отдаёт. Теги Ollama указывают на упаковку Q2_0 — единственную, которую может загрузить upstream llama.cpp. Пакеты dense-trit PTQ1_0 — самые маленькие файлы в семействе — вообще отсутствуют в реестре. Так что удобный путь и малый путь — это разные пути, причём в равной степени для всех четырёх размеров.

Отличие 27B в том, что он непоставляет. 4B и 9B каждый поставляются с двумя опциональными драфтерами спекулятивного декодирования: головой MTP, встроенной в пакет с 2-битными слотами, и блочным драфтером DFlash2, который помогает при работе с интенсивным копированием и оказывается медленнее обычного декодирования в обычном чате. А 2B поставляется без драфтера намеренно — в примечании вендора сказано, что при таком размере шаг декодирования и так дёшев, а драфтинг с перебором глубины по замерам оказывался медленнее обычного декодирования на повседневных промптах. Поколение 27B отказалось от эквивалентного драфтера, который был у его предшественника первого поколения.

Это реальная разница в возможностях между размерами, и на странице Ollama она вообще не отражена.

Принятие решения и что делать с ответом

27B — это тот вариант, к которому стоит обратиться, если рабочая нагрузка предполагает долгосрочные рассуждения: код, математика, агентные цепочки инструментов, длинные документы в контексте 262K. Это единственный размер в семействе с базовой моделью поколения Qwen3.8, и разбивка по категориям от производителя говорит, что сжатие почти ничего не отнимает у него в математике и программировании, но сказывается на воспроизведении знаний и зрении.

9B — это тот, к которому стоит обратиться, если ограничение — память, а не сложность: ассистенты, живущие на ноутбуке, развёртывания на телефонах, всё, где 2 ГБ против 6 ГБ — это разница между выпуском и его отсутствием. Его опубликованный профиль сильнее всего именно там, где профиль 27B слабее всего относительно базовой линии — следование инструкциям и контроль многословности, — а именно на это небольшой локальный ассистент и тратит свои токены. 2B и 4B существуют для ещё более скромных бюджетов, и на таких размерах показатели удержания становятся настолько шумными, что ваши собственные промпты — лучший ориентир, чем таблица вендора.

Замечание о сравнении, которое большинство читателей на самом деле проведёт, — а именно с размещёнными моделями, а не друг с другом. Ни один из размеров Bonsai 2 не обслуживается через OrcaRouter, и этот материал не утверждает обратного — это веса, которые вы скачиваете. Но ответ на вопрос «достаточно ли локальной модели на 2 ГБ для этой задачи» даётся путём сравнения с чем-то, и OrcaRouter предоставляет единый API для более чем 200 размещённых моделей с 0% наценки с передачей цены из прайс-листа провайдера, а также автоматическое переключение при сбое между провайдерами и DSL маршрутизации для объединения нескольких моделей в один вызов. Установите планку с помощью размещённой модели, затем проверьте, преодолевает ли её локальная модель на вашем оборудовании. Такой порядок экономит недели, которые люди тратят на настройку скачанной модели, которая никогда не стала бы достаточной.

Одно предостережение, которое стоит вынести из этого материала. Оба релиза сообщают показатели сохранения в процентах, оба измерены вендором на его собственном стенде, и на сегодняшний день ни одна третья сторона не воспроизвела ни один из них. Единственное, что вы можете проверить сами, — это артефакт: размеры файлов, упаковки, метаданные GGUF, лицензию и пропускную способность на вашей собственной машине. С этого и стоит начать, и именно здесь два анонса перестают походить друг на друга: размеры отдельных пакетов 27B публикуются по каждому файлу на Hugging Face, а бытующие в разговорах размеры маленьких моделей — 0,43 ГБ, 0,95 ГБ и 2 ГБ — относятся только к языковой модели, а визуальная башня не учитывается. Сравнивайте их на одинаковой основе, иначе 9B будет выглядеть так, будто проиграл спор, которого никогда не было.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.