Bonsai 2 vs Ternary Bonsai 2 27B: O nome da família está fazendo dois trabalhos

Pesquise por Bonsai 2 e você encontrará cerca de cinco artefatos diferentes com pegadas que abrangem uma ordem de magnitude, e não é óbvio pelo nome sobre qual deles um determinado artigo está falando. Ternary Bonsai 2 27B é o específico — um único modelo ternário de classe 27B construído sobre o Qwen3.8-27B, anunciado em 17 de setembro de 2026 e distribuído como um pacote dense-trit de 5,95 GB ou um pacote de slots de 2 bits de 7,21 GB. O Bonsai 2 sem qualificador é o guarda-chuva: o mesmo nome abrange Ternary Bonsai 2 2B, Ternary Bonsai 2 4B e Ternary Bonsai 2 9B, três modelos muito menores construídos sobre o Qwen3.5 e anunciados em 15 de outubro de 2026, e agora também abrange uma entrada da biblioteca do Ollama que atende todos os quatro tamanhos sob uma única família de tags.

Portanto, isto não é o habitual confronto direto. Um lado é um subconjunto do outro, e a pergunta útil não é qual é melhor, mas qual deles um leitor que digitou "Bonsai 2" numa caixa de pesquisa realmente quer. A resposta depende de algo que a nomenclatura esconde: a família são duas famílias, divididas por modelo base, e a divisão não ocorre onde os números de tamanho sugerem.

Duas famílias com o mesmo nome

Leia os cabeçalhos GGUF dos arquivos publicados e a costura está bem ali, em um campo de metadados. Todo artefato do Bonsai 2 — 2B, 4B, 9B e 27B — reporta general.architecture = qwen35. Essa string é o backbone de atenção híbrida do Qwen3.5 e, para os três menores, está exatamente certa: os cartões de modelo listam Qwen3.5-2B, Qwen3.5-4B e Qwen3.5-9B como modelos base com a arquitetura inalterada. O 27B é outro animal. Sua base é o Qwen3.8-27B, um modelo de atenção híbrida 27B mais novo e mais forte, e ele por acaso compartilha a string de arquitetura porque o Qwen3.8 mantém a mesma família de backbone.

As notas de lançamento do próprio fornecedor tornam a separação visível se você as ler lado a lado e invisível se ler qualquer uma delas isoladamente. A publicação de 15 de outubro sobre os modelos pequenos diz que eles são "baseados no Qwen3.5" e os descreve como se juntando ao Bonsai 2 27B — que é apresentado corretamente como algo distinto. A publicação de 17 de setembro sobre o 27B diz Qwen3.8-27B. Dois anúncios, dois modelos base, um nome de família, e um artigo de terceiros que diz "Bonsai 2 é baseado no Qwen3.5" está errado quanto ao 27B, embora pareça perfeitamente bem fundamentado.

Isso importa porque a geração do modelo base não é um detalhe aqui. Ela define o teto de capacidade, define de que os percentuais de retenção são percentuais de, e significa que os números de benchmark dos modelos pequenos e os números de benchmark do 27B não são dois pontos numa mesma curva — são dois relatórios separados contra duas linhas de base separadas. Desconfie de qualquer tabela que os alinhe numa única coluna.

Os números, lado a lado

Todos os números reportados pelo fornecedor Prism ML; nenhum reproduzido de forma independente.

• Modelo base — Ternary Bonsai 2 2B / 4B / 9B: Qwen3.5-2B, -4B, -9B, respectivamente; Ternary Bonsai 2 27B: Qwen3.8-27B

• Anunciado — 15 de outubro de 2026 para os três pequenos; 17 de setembro de 2026 para o 27B

• O menor pacote de modelo de linguagem — 0,429 GB PTQ1_0 em 2B; 1,997 GB PTQ1_0 em 9B; 5,947 GB PTQ1_0 em 27B

• Pacote padrão — PQ2_0 para todos eles: 0,517 GB, 1,146 GB, 2,417 GB e 7,206 GB, respectivamente

• Bits por peso — ~1,83 em 2B, ~1,81 em 4B, ~1,78 em 9B, 1,72 ideal / 1,75 empacotado em 27B

• Contexto — 262.144 tokens em toda a família, herdados do backbone Qwen

• Visão — um pacote mmproj separado em cada tamanho, carregado somente quando uma imagem chega

• Licença — Apache 2.0 em todo o projeto

• Retenção conforme relatado — 27B: 98,2% do Qwen3.8-27B FP16 em 14 benchmarks; modelos pequenos: 19 benchmarks em seis áreas de habilidades, relatados como retenção por categoria em relação às suas próprias baselines Qwen3.5

Uma linha nessa lista é a razão pela qual o 27B custa 5,95 GB onde o 9B custa 2,00 GB, e não é apenas a contagem de parâmetros. O 27B é descrito como "ternário ponta a ponta" em embeddings, projeções de atenção, projeções MLP e a cabeça LM, com um detalhe decisivo: um pequeno conjunto de tensores — o caminho de estado recorrente das camadas de atenção linear mais os pesos de normalização, cerca de 26,2 milhões de parâmetros, 0,0976% do modelo de linguagem — permanece em precisão mais alta, e é esse restante que move o valor de destaque de 1,71 para 1,72 bits por peso. No 9B, o mesmo mecanismo dá ~1,78. O modelo maior é mais eficiente por peso, não menos, porque a sobrecarga fixa de alta precisão é amortizada por dez vezes mais parâmetros. Se você está raciocinando sobre qual tamanho escolher a partir de uma tabela de bits por peso, essa é a única direção para a qual a tabela aponta.

Onde os modelos pequenos realmente vencem

Não na qualidade — na forma da afirmação. O lançamento do modelo pequeno é o único desta família que publica uma alegação de verbosidade, e é a coisa mais verificável que qualquer um dos anúncios contém: a Prism ML relata que o 9B usa aproximadamente 40% menos tokens em tarefas padrão de seguir instruções e de matemática do dia a dia. Isso é uma afirmação sobre o comprimento da saída, não sobre a capacidade, e você pode verificá-la com seus próprios prompts em uma tarde. O mesmo post lista evitar loops repetitivos e controlar a verbosidade como prioridades explícitas de desenvolvimento, que é o tipo de coisa que se escreve quando a geração anterior tinha um problema.

É também o único lançamento que relata retenção acima de 100% em várias categorias — 121,5% em seguimento de instruções para o 2B, 107,8% em matemática, 115,0% em programação, em comparação com as baselines Qwen3.5 de precisão completa. Esses são os números do próprio fornecedor em sua própria suíte, e o fato de um modelo comprimido superar seu modelo de origem em um benchmark escolhido a dedo é uma alegação sobre treinamento e estrutura de avaliação pelo menos tanto quanto sobre aritmética ternária. O relatório do 27B tem perfil mais conservador — 84,78 contra 86,32, com matemática em 96,57 versus 97,06 e nível de programação em 89,42 versus 89,07, e a perda concentrada em conhecimento/raciocínio e visão — que é o perfil que uma representação de 1,7 bit deveria produzir. Quando as perdas de um relatório caem exatamente onde a teoria prevê e os ganhos de outro caem nas categorias que o fornecedor escolheu destacar, essa assimetria é informação.

Embalagem: a vantagem discreta do 27B

Desde 17 de outubro de 2026, todos os quatro tamanhos podem ser obtidos por pull como bonsai-2:2b, :4b, :9b e :27b do Ollama — nove tags no total, com cada tamanho também tendo um alias -q2_0. Isso é recente, não foi anunciado pelo fornecedor, e vale a pena saber o que isso realmente fornece. As tags do Ollama resolvem para o empacotamento Q2_0, o único que o llama.cpp upstream consegue carregar. Os pacotes dense-trit PTQ1_0 — os menores arquivos da família — não estão no registro de forma alguma. Portanto, o caminho conveniente e o caminho pequeno são caminhos diferentes, igualmente para todos os quatro tamanhos.

A diferença do 27B está naquilo que ele não disponibiliza. O 4B e o 9B vêm cada um com dois modelos de rascunho opcionais de decodificação especulativa: uma cabeça MTP integrada ao pacote de slots de 2 bits, e um modelo de rascunho de blocos DFlash2 que ajuda em tarefas com uso intenso de cópia e é mais lento que a decodificação simples em conversas gerais. O 2B é lançado sem um deles de propósito — a observação do fornecedor é que, nesse tamanho, uma etapa de decodificação já é barata, e o rascunho de profundidade varrida se mostrou mais lento em prompts cotidianos do que a decodificação simples. A geração do 27B deixou de fora o modelo de rascunho equivalente que seu predecessor de primeira geração trazia.

Isso é uma diferença real de capacidade entre os tamanhos, e não aparece de forma alguma na página do Ollama.

Decidir, e o que fazer com a resposta

O 27B é o modelo a escolher quando a carga de trabalho é raciocínio de longo horizonte: código, matemática, cadeias de ferramentas agênticas, documentos longos mantidos em um contexto de 262K. É o único tamanho da família com um modelo base da geração Qwen3.8, e a análise por categorias do fornecedor diz que a compressão quase não lhe custa nada em matemática e programação, mas cobra seu preço na recuperação de conhecimento e na visão.

O 9B é o indicado quando a restrição é memória, e não dificuldade: assistentes que rodam em laptops, implantações em celulares, qualquer coisa em que 2 GB versus 6 GB seja a diferença entre lançar ou não. Seu perfil publicado é mais forte exatamente onde o do 27B é mais fraco em relação à linha de base — seguir instruções e controle de verbosidade —, que é no que um pequeno assistente local realmente gasta seus tokens. O 2B e o 4B existem para orçamentos ainda mais apertados, e nesses tamanhos os números de retenção ficam ruidosos o suficiente para que seus próprios prompts sejam um guia melhor do que a tabela do fornecedor.

Uma observação sobre a comparação que a maioria dos leitores realmente fará, que é com modelos hospedados, e não entre si. Nenhum dos tamanhos do Bonsai 2 é servido pelo OrcaRouter, e este texto não sugere o contrário — eles são pesos que você baixa. Mas a pergunta "um modelo local de 2 GB é bom o suficiente para esta tarefa" é respondida medindo contra algo, e o OrcaRouter coloca uma única API na frente de mais de 200 modelos hospedados com 0% de markup com o preço de tabela do provedor repassado, além de failover automático entre provedores e uma DSL de roteamento para compor vários modelos em uma única chamada. Estabeleça o parâmetro com um modelo hospedado e depois teste se o modelo local o atinge no seu hardware. Essa ordem economiza as semanas que as pessoas perdem ajustando um download que nunca seria suficiente.

Uma advertência para levar deste texto. Ambos os lançamentos informam percentuais de retenção; ambos são medidos pelo fornecedor em seu próprio ambiente de teste e, até hoje, nenhum terceiro reproduziu nenhum dos dois. A única coisa que você mesmo pode verificar é o artefato — os tamanhos dos arquivos, os empacotamentos, os metadados GGUF, a licença e a taxa de transferência na sua própria máquina. É aí que se deve começar, e é também onde os dois anúncios deixam de se parecer: os tamanhos dos pacotes autônomos do 27B são publicados por arquivo no Hugging Face, e a pegada divulgada boca a boca dos modelos pequenos, de 0,43 GB, 0,95 GB e 2 GB, refere-se apenas ao modelo de linguagem, com a torre de visão excluída. Compare-os na mesma base, ou o 9B vai parecer ter perdido uma discussão que nunca teve.

Nada disso é hipotético: as falhas de IA documentadas e os incidentes com agentes por trás de lançamentos como este estão reunidos no Arquivo de Incidentes de IA da OrcaRouter, onde cada entrada traz as suas próprias fontes, gravidade, grau de confiança e sinalização de contestação.