Bonsai 2 появился в Ollama раньше, чем кто-либо объявил, что это произойдёт.

Где-то в предрассветные часы 17 октября 2026 года, Ollama начал обслуживать Bonsai 2 — запись в библиотеке с девятью тегами, охватывающая Ternary Bonsai 2 2B, Ternary Bonsai 2 4B, Ternary Bonsai 2 9B и Bonsai 2 27B, каждая в двух упаковках плюс псевдоним по умолчанию. Prism ML ничего об этом не сообщила. На новостной странице вендора нет публикации, нет строки в анонсе малых моделей от 15 октября — в том посте в качестве сред выполнения названы llama.cpp и MLX, а в качестве демонстрации — хостируемая консоль, и Ollama там вообще не упоминается. Эта запись просто существует, и у всех девяти тегов проставлена одна и та же отметка «несколько часов назад», что выглядит как свежий пуш, а не как постепенное развёртывание.

Итак, честное разделение таково. Что можно узнать прямо сейчас из реестра и файлов: теги, их названия, их точные размеры в байтах, их дайджесты содержимого и — поскольку Ollama поставляет GGUF — строки архитектуры и метаданных внутри самих весов. Не подтверждено: кто их упаковал, почему в анонсе вендора не упоминается платформа, являются ли тернарные ядра апстримом в собственном движке Ollama или вендорными, и сохранится ли хоть одна из цифр вендора после такого путешествия. Это отдельные вопросы, и этот материал держит их отдельно.

Что на самом деле на полке

Девять тегов, четыре размера, три варианта упаковки одних и тех же весов. На странице библиотеки Ollama для каждого размера указан псевдоним по умолчанию и -q2_0-вариант для каждого размера:

• bonsai-2:latest — 3.2 ГБ, соответствует 9B (дайджест c8b5462f8688)

• bonsai-2:2b и bonsai-2:2b-q2_0 — 911 МБ, тот же дайджест de2ccb4e7328

• bonsai-2:4b и bonsai-2:4b-q2_0 — 1,6 ГБ, тот же дайджест 93edd652c932

• bonsai-2:9b и bonsai-2:9b-q2_0 — 3,2 ГБ, тот же дайджест c8b5462f8688

• bonsai-2:27b и bonsai-2:27b-q2_0 — 8,3 ГБ, тот же дайджест f3c4f4208659

Именование делает больше, чем кажется на первый взгляд. Два тега на каждый размер, имеющих один и тот же дайджест, — это не дубликат, а утверждение о том, какую упаковку выбрал Ollama. Выгрузите манифест для bonsai-2:9b — и слой модели окажется равен 2.557 ГБ. Это Ternary Bonsai 2 9BQ2_0 — файл, измеренный на Hugging Face ровно в 2.557 ГБ, байт в байт. Этот PQ2_0 — пакет на 2.417 ГБ, а PTQ1_0 — пакет на 1.997 ГБ, самый маленький, — здесь вовсе отсутствует.

У этого выбора есть последствие, о котором стоит сказать прямо, потому что это как раз то, что превращается в ветку поддержки. В карточке модели от вендора upstream llama.cpp запускает ровно одну из трёх упаковок: Q2_0, «свежий master, включающий runtime активаций Адамара». Она отклоняет PQ2_0 и PTQ1_0 как неизвестные типы, потому что для них нужен форк Prism ML llama.cpp. Ollama обслуживает собственный движок. Q2_0 — это упаковка, которую стандартный потребитель GGUF может с высокой вероятностью загрузить, — и Q2_0 как раз та упаковка, которую поставила Ollama. Вырастила ли Ollama собственные тернарные ядра или маршрутизирует на вендорную сборку — об этом реестр вам не скажет. А что он говорит, так это то, что они не поставили файл, который не может загрузиться.

Метаданные GGUF сообщают больше, чем страница.

Страница Ollama сообщает по четыре факта для каждого тега: размер в байтах, значок контекста «256K», тип ввода «текст + изображение» и относительную метку времени. Всё остальное — внутри файла. Чтение заголовка GGUF каждого слоя модели даёт следующее, и его стоит прочитать по конкретной причине: это единственная часть этой истории, которая не является чьим-то маркетинговым заявлением.

• general.architecture — qwen35 для всех четырёх размеров

• general.name — Ternary-Bonsai-2-2B, -4B, -9B у трёх младших; слой 27B сообщает обобщённую строку Hf с general.basename = folded

• general.file_type — 41 во всех четырёх, при general.quantization_version = 2

• general.size_label — 2B, 4B, 9B, 27B, соответствующие названиям тегов

• Количество тензоров — 320 для 2B, 426 для 4B, 427 для 9B, 851 для 27B

Строка архитектуры — самая интересная. qwen35 — это основа Qwen3.5 с гибридным механизмом внимания, и она подтверждает по самому артефакту то, что в карточках модели сказано прозой: три младшие — это Qwen3.5-2B, -4B и -9B при неизменной архитектуре и заменённых весах. Она также обнажает шов в именовании, который собственные примечания к выпуску вендора замазывают. В посте от 15 октября сказано, что новые модели «основаны на Qwen3.5». 27B — это совсем другая база — Qwen3.8-27B, анонсированная 17 сентября. Четыре размера, одно имя семейства, две базовые модели. Всё, что вы читаете о поведении «Bonsai 2», измеренном на 27B, не переносится автоматически на 9B, и именно в заголовке GGUF можно увидеть почему.

Метаданные {{1}}27B{{/1}} тоже заметно менее аккуратны, чем у остальных: {{2}}general.name{{/2}} = {{3}}Hf{{/3}}, {{4}}general.basename{{/4}} = {{5}}folded{{/5}}, {{6}}general.version{{/6}} = {{7}}v5{{/7}} и один дополнительный ключ семплирования, которого нет у трёх младших. Именно так выглядит промежуточный вывод пайплайна конвертации, когда его публикуют без финального прохода переименования. Это не дефект — тензоры есть тензоры, — но это отпечаток, и он говорит о том, что тег {{8}}27B{{/8}} пришёл другим путём, чем у трёх младших.

Что числа Ollama не означают

Именно здесь большинство материалов о листинге библиотеки ошибается, поэтому стоит не спешить. Размеры в байтах на странице Ollama — это контейнерные размеры, и для каждого размера они больше, чем находящийся внутри файл модели. Тег 2B указывает 911 MB против слоя модели 0.547 GB и визуального проектора 0.365 GB. Тег 27B указывает 8.3 GB против слоя модели 7.626 GB и проектора 0.629 GB. Добавьте блобы лицензии и параметров, и арифметика сходится: Ollama указывает размер всего скачанного артефакта, включая визуальную башню.

Это означает, что указанные на странице Ollama 3,2 ГБ для 9B несопоставимы с цифрой «2 ГБ» от производителя для той же модели, и эта разница — не расхождение, о котором стоит сообщать, а два разных измерения двух разных вещей. 0,43 ГБ / 0,95 ГБ / 2 ГБ у Prism ML — это только языковые модели. Визионный блок выгружается и загружается лишь тогда, когда действительно поступает изображение, поэтому при развёртывании, работающем только с текстом, за него платить не приходится, а вот при `ollama pull` — приходится. Если вы подбираете устройство по цифрам производителя, а затем скачиваете из Ollama, вы превысите бюджет на 0,5–1 ГБ ещё до того, как что-либо запустите.

Та же осторожность применима и к значку «256K». Лежащий в основе контекст — 262 144 токена, унаследованный от базовой модели Qwen3.5 — 24 слоя линейного внимания и 8 слоёв полного внимания в 9B — а значок Ollama округляет его вниз для отображения. Контекст настоящий, и он унаследован, а не добавлен Ollama. Что не указано нигде на странице, так это сколько памяти стоит длинный контекст, и на модели с гибридным вниманием с кэшем полного внимания на подмножестве слоёв это не маленькое число. Ничто на странице Ollama не говорит, поместится ли 262K на самом деле там, где вы собираетесь его запускать.

Кто это упаковал, и имеет ли это значение?

Остаётся без ответа, и это следует пометить как «без ответа», а не строить догадки. Возможны три варианта: Prism ML сам это загрузил, Ollama вытянула это из публичных GGUF-репозиториев вендора в рамках работы над собственным каталогом, либо это сделала третья сторона. Реестр не может сказать, какой именно.

Что можно проверить — это происхождение артефакта, и оно сходится. В собственном описании модели от Ollama сказано: «Bonsai 2 от Prism ML — это семейство визуальных моделей, созданных для тернарных весов (−1, 0 или +1): примерно вдвое меньше стандартных 4-битных моделей при качестве, близком к полной точности», и там же даны ссылки на организацию вендора на Hugging Face, whitepaper по Bonsai 2 27B и Apache 2.0. Блок лицензии, встроенный в каждый из четырёх манифестов размера, — это дословный текст Apache 2.0. Блок параметров для 2B, 4B и 9B выглядит так: {"presence_penalty":1,"temperature":1,"top_k":20,"top_p":0.95} — это рекомендованный вендором рецепт сэмплирования для режима размышления из карточек моделей, причём min_p опущен ровно так, как, согласно карточке 27B, его опускают в файлах GGUF. Это не чья-то догадка; это конвертация, при которой карточку действительно прочитали.

Что успокаивает, но по-прежнему ничего не говорит о том, что на самом деле определяет ваш опыт: присутствуют ли тернарные ядра в движке, который вы используете. Честный ответ таков: успешный pull доказывает лишь то, что файл — корректно сформированный GGUF, и ничего больше. Проверьте на собственном оборудовании, прежде чем на это опираться.

Заявления поставщика и то, что было проверено

Каждый показатель качества, относящийся к этому семейству, исходит от Prism ML, получен на собственном тестовом стенде Prism ML, и ни один из них не воспроизведён независимо. Это нормально для такого возраста, и об этом следует говорить прямо, а не подразумевать. В публикации от 15 октября сообщается о 19 бенчмарках по шести областям навыков для малых моделей, с показателями сохранения относительно базовых уровней Qwen3.5 полной точности:

• 2B — агентные задачи 95,5%, математика 107,8%, следование инструкциям 121,5%, программирование 115,0%, знания 82,9%, зрение 89,0%

• 4B — 90.0% / 99.3% / 106.0% / 100.7% / 90.9% / 91.3%

• 9B — 92.4% / 98.2% / 100.0% / 100.1% / 93.0% / 92.5%

Некоторые из этих значений превышают 100 % — это не опечатка и не артефакт округления: это означает, что тернарная модель набрала в этой категории больше, чем модель полной точности, из которой она была получена. Следование инструкциям на уровне 121,5 % для 2B — самый красноречивый пример. Отнеситесь к этому с заслуженным подозрением: сжатая модель, обходящая собственную базовую линию на выбранном вендором бенчмарке, говорит об обучении и стенде оценки по меньшей мере в той же мере, что и о представлении, а оценки в категории малых моделей гораздо более шумные, чем у 27B. Цифры 27B более консервативны и более правдоподобны по форме — 84,78 против 86,32 для FP16, сохранение 98,2 % на 14 бенчмарках в режиме размышления, при математике 96,57 против 97,06 и уровне кодирования 89,42 против 89,07, а потери сосредоточены в знаниях/рассуждениях и зрении. Когда семейство утрачивает возможности при 1,7-битном представлении, это именно тот профиль, который можно было бы предсказать.

Единственное утверждение в посте о малой модели, которое не является бенчмарком, — это то, к которому стоит отнестись серьёзнее всего: 9B «использует примерно на 40 % меньше токенов на стандартных задачах на следование инструкциям и повседневных математических задачах». Это утверждение о многословности, а не о способностях, и такое вполне можно проверить за полдня на собственных промптах. Оно также перекликается с предупреждением в карточках модели самого вендора: режим размышлений может израсходовать более 3 000 токенов на тривиальный вопрос, поэтому задавайте не менее 8 192 выходных токенов и не запускайте жадное декодирование с включённым режимом размышлений, потому что он может застрять в рассуждениях. Модель, которая на 40 % менее многословна и при этом всё ещё требует бюджета в 8 192 токена, сама говорит вам, что она многословна в каком-то определённом месте.

Что это значит для вас

Если вы уже используете Ollama и хотите попробовать модель класса 27B на ноутбуке без GPU дата-центра, четыре тега — это самый короткий существующий на данный момент путь: один pull, без форков, без сборки ядра. Если вам нужна упаковка, которая действительно самая маленькая, или драфтеры спекулятивного декодирования, которые производитель поставляет для 4B и 9B, в каталоге Ollama их нет — это загрузка с Hugging Face и сборка Prism ML llama.cpp, и так с 15 октября.

Ещё одна вещь, которую стоит знать: локальный запуск — не единственный способ использовать низкобитную модель, и не всегда правильный. OrcaRouter ставит один API перед более чем 200 моделями, размещёнными на хостинге с нулевой наценкой — по цене из прайс-листа провайдера, без надбавок — плюс автоматическое переключение между провайдерами при сбое, так что вы можете оценить модель на реальной рабочей нагрузке, прежде чем решать, заслуживает ли она места на вашем ноутбуке. Ни один из размеров Bonsai 2 сегодня не подаётся через OrcaRouter, и этот материал не утверждает обратного: это семейство представляет собой файл для скачивания, который вы запускаете сами, и так будет оставаться, пока поставщик не опубликует endpoint. Что даёт вам слой маршрутизации — это вторая половина решения: размещённые модели, с которыми вы будете его сравнивать, за одним ключом, а также слияние моделей и DSL маршрутизации, доступные, когда одной модели недостаточно.

За чем стоит следить — в порядке того, насколько сильно это изменило бы картину: тег Ollama, обзаведшийся родственным тегом ptq1_0, что означало бы, что ядра dense-trit добрались до апстрима; пост вендора с признанием платформы, который ответил бы на вопрос о происхождении; и любой независимый бенчмарк 9B или 27B — единственное, что вывело бы показатели удержания из графы «по данным вендора». Пока не появится что-то из этого, листинг — это механизм доставки, а не новая модель, — а модель, которую он доставляет, публично доступна с 15 октября.

Ничего из этого не гипотетично: задокументированные сбои ИИ и инциденты с агентами, стоящие за такими релизами, как этот, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, класс уверенности и флаг оспаривания.