Bonsai 2 vs Ternary Bonsai 2 27B: el nombre de la familia cumple dos funciones

Busca Bonsai 2 y llegarás a unos cinco artefactos distintos cuyas huellas abarcan un orden de magnitud, y no resulta evidente por el nombre de cuál de ellos está hablando un artículo determinado. Ternary Bonsai 2 27B es el específico: un único modelo ternario de clase 27B construido sobre Qwen3.8-27B, anunciado el 17 de septiembre de 2026 y distribuido como un paquete dense-trit de 5,95 GB o un paquete de ranura de 2 bits de 7,21 GB. El mero Bonsai 2 es el paraguas: el mismo nombre abarca Ternary Bonsai 2 2B, Ternary Bonsai 2 4B y Ternary Bonsai 2 9B, tres modelos mucho más pequeños construidos sobre Qwen3.5 y anunciados el 15 de octubre de 2026, y ahora también abarca una entrada de la biblioteca de Ollama que sirve los cuatro tamaños bajo una misma familia de etiquetas.

Así que esto no es el habitual cara a cara. Un lado es un subconjunto del otro, y la pregunta útil no es cuál es mejor, sino cuál de ellos quiere en realidad un lector que escribió «Bonsai 2» en un cuadro de búsqueda. La respuesta depende de algo que la nomenclatura oculta: la familia son dos familias, divididas por modelo base, y la división no cae donde sugieren los números de tamaño.

Dos familias con un mismo nombre

Lee los encabezados GGUF de los archivos publicados y la costura está justo ahí, en un campo de metadatos. Todos los artefactos de Bonsai 2 —2B, 4B, 9B y 27B por igual— reportan general.architecture = qwen35. Esa cadena es el backbone de atención híbrida de Qwen3.5, y para los tres pequeños es exactamente correcta: las tarjetas de modelo enumeran Qwen3.5-2B, Qwen3.5-4B y Qwen3.5-9B como modelos base con la arquitectura sin cambios. El 27B es otro animal. Su base es Qwen3.8-27B, un modelo de atención híbrida de 27B más nuevo y más potente, y da la casualidad de que comparte la cadena de arquitectura porque Qwen3.8 mantiene la misma familia de backbone.

Las notas de la versión del propio proveedor hacen visible la división si se leen una al lado de la otra, e invisible si se lee cualquiera de ellas por separado. La publicación del 15 de octubre para los modelos pequeños dice que están "basados en Qwen3.5" y los describe como uniéndose a Bonsai 2 27B —algo que se enmarca con precisión como una cosa diferente—. La publicación del 17 de septiembre para el 27B dice Qwen3.8-27B. Dos anuncios, dos modelos base, un nombre de familia, y un artículo de terceros que dice "Bonsai 2 está basado en Qwen3.5" se equivoca sobre el 27B aunque parece perfectamente bien documentado.

Eso importa porque la generación del modelo base no es un detalle aquí. Establece el techo de capacidad, establece lo que los porcentajes de retención son porcentajes de, y significa que los números de benchmark de los modelos pequeños y los números de benchmark del 27B no son dos puntos en una misma curva — son dos informes separados frente a dos líneas base separadas. Desconfía de cualquier tabla que los alinee en una sola columna.

Los números, uno al lado del otro

Todas las cifras reportadas por el proveedor Prism ML; ninguna reproducida de forma independiente.

• Modelo base — Ternary Bonsai 2 2B / 4B / 9B: Qwen3.5-2B, -4B, -9B respectivamente; Ternary Bonsai 2 27B: Qwen3.8-27B

• Anunciado — 15 de octubre de 2026 para los tres pequeños; 17 de septiembre de 2026 para el 27B

• El paquete de modelo de lenguaje más pequeño — 0.429 GB PTQ1_0 en 2B; 1.997 GB PTQ1_0 en 9B; 5.947 GB PTQ1_0 en 27B

• Paquete predeterminado — PQ2_0 para todos ellos: 0,517 GB, 1,146 GB, 2,417 GB y 7,206 GB respectivamente

• Bits por peso — ~1,83 en 2B, ~1,81 en 4B, ~1,78 en 9B, 1,72 ideal / 1,75 empaquetado en 27B

• Contexto — 262,144 tokens en toda la familia, heredado del backbone de Qwen

• {{1}}Vision{{/1}} — un paquete mmproj independiente en cada tamaño, cargado solo cuando llega una imagen

• Licencia — Apache 2.0 en su totalidad

• Retención según lo reportado — 27B: 98,2 % de Qwen3.8-27B FP16 en 14 benchmarks; modelos pequeños: 19 benchmarks en seis áreas de habilidades, reportada como retención por categoría frente a sus propias líneas base de Qwen3.5

Una línea de esa lista es la razón por la que el 27B cuesta 5.95 GB mientras que el 9B cuesta 2.00 GB, y no se debe solo al número de parámetros. El 27B se describe como "ternario de extremo a extremo" en embeddings, proyecciones de atención, proyecciones MLP y la cabeza LM, con un detalle decisivo: un pequeño conjunto de tensores —la ruta de estado recurrente de las capas de atención lineal más los pesos de normalización, unos 26.2 millones de parámetros, el 0.0976% del modelo de lenguaje— permanece en mayor precisión, y ese resto es lo que mueve la cifra principal de 1.71 a 1.72 bits por peso. En el 9B, la misma maquinaria da ~1.78. El modelo más grande es más eficiente por peso, no menos, porque la sobrecarga fija de alta precisión se amortiza entre diez veces más parámetros. Si estás razonando sobre qué tamaño elegir a partir de una tabla de bits por peso, esa es la dirección que señala la tabla.

Donde los modelos pequeños de verdad ganan

No en la calidad, sino en la forma de la afirmación. El lanzamiento del modelo pequeño es el único de esta familia que publica una afirmación sobre la verbosidad, y es lo más verificable que contiene cualquiera de los dos anuncios: Prism ML informa de que el modelo de 9B usa aproximadamente un 40 % menos de tokens en tareas estándar de seguimiento de instrucciones y de matemáticas cotidianas. Eso es una afirmación sobre la longitud de la salida, no sobre la capacidad, y puedes verificarla con tus propios prompts en una tarde. En la misma publicación se enumeran evitar bucles repetitivos y controlar la verbosidad como prioridades explícitas de desarrollo, que es el tipo de cosas que uno escribe cuando su generación anterior tenía un problema.

También es la única versión que reporta una retención superior al 100 % en varias categorías —121,5 % en seguimiento de instrucciones para el 2B, 107,8 % en matemáticas, 115,0 % en programación— frente a las líneas base de Qwen3.5 de precisión completa. Esos son los números del propio proveedor en su propia suite de pruebas, y que un modelo comprimido supere en puntuación a su modelo de origen en un benchmark elegido a mano es una afirmación sobre el entrenamiento y la infraestructura de evaluación al menos tanto como sobre la aritmética ternaria. El informe del 27B tiene un perfil más conservador —84,78 frente a 86,32, con matemáticas en 96,57 frente a 97,06 y el nivel de programación en 89,42 frente a 89,07, y la pérdida concentrada en conocimiento/razonamiento y visión—, que es el perfil que debería producir una representación de 1,7 bits. Cuando las pérdidas de un informe caen exactamente donde la teoría predice y las ganancias del otro caen en las categorías que el proveedor eligió destacar, esa asimetría es información.

Empaquetado: la ventaja discreta del 27B

Desde el 17 de octubre de 2026, los cuatro tamaños se pueden descargar como bonsai-2:2b, :4b, :9b y :27b desde Ollama —nueve etiquetas en total—, y cada tamaño también lleva un alias -q2_0. Eso es reciente, el proveedor no lo ha anunciado, y vale la pena saber qué ofrece realmente. Las etiquetas de Ollama se resuelven al empaquetado Q2_0, el único que el upstream de llama.cpp puede cargar. Los paquetes PTQ1_0 de trit denso —los archivos más pequeños de la familia— no están en el registro en absoluto. Así que la ruta conveniente y la ruta pequeña son rutas diferentes, por igual para los cuatro tamaños.

Donde el 27B se diferencia es en lo que no incluye. El 4B y el 9B vienen cada uno con dos generadores de borradores opcionales de decodificación especulativa: una cabeza MTP integrada en el paquete de ranura de 2 bits, y un generador de borradores por bloques DFlash2 que ayuda en trabajos con mucho copiado y es más lento que la decodificación simple en chat general. El 2B se distribuye deliberadamente sin uno — la nota del proveedor es que, a ese tamaño, un paso de decodificación ya es barato y la generación de borradores con barrido de profundidad resultó más lenta en prompts cotidianos que la decodificación simple. La generación del 27B eliminó el generador de borradores equivalente que llevaba su predecesor de primera generación.

Esa es una verdadera diferencia de capacidad entre los tamaños, y no aparece en absoluto en la página de Ollama.

Decidir, y qué hacer con la respuesta

El 27B es el que hay que elegir si la carga de trabajo es razonamiento de horizonte largo: código, matemáticas, cadenas de herramientas agénticas, documentos largos mantenidos en un contexto de 262K. Es el único tamaño de la familia con un modelo base de la generación Qwen3.8, y el desglose por categorías del proveedor dice que la compresión casi no le cuesta en matemáticas y programación, mientras que le pasa factura en la recuperación de conocimiento y la visión.

El 9B es al que hay que recurrir si la restricción es la memoria y no la dificultad: asistentes que residen en un portátil, despliegues en teléfonos, cualquier cosa donde 2 GB frente a 6 GB sea la diferencia entre lanzar o no. Su perfil publicado es más fuerte justo donde el del 27B es más débil en relación con la línea base —seguimiento de instrucciones y control de la verbosidad—, que es en lo que un asistente local pequeño realmente gasta sus tokens. El 2B y el 4B existen para presupuestos aún más ajustados, y en esos tamaños los números de retención se vuelven lo bastante ruidosos como para que tus propios prompts sean una mejor guía que la tabla del proveedor.

Una nota sobre la comparación que la mayoría de los lectores hará en realidad, que es contra modelos alojados y no entre sí. Ninguno de los tamaños de Bonsai 2 se sirve a través de OrcaRouter, y este artículo no sugiere lo contrario: son pesos que se descargan. Pero a la pregunta "¿es suficientemente bueno un modelo local de 2 GB para esta tarea?" se responde midiendo contra algo, y OrcaRouter pone una única API delante de más de 200 modelos alojados con un 0 % de margen de beneficio con el precio de lista del proveedor pasado directamente, además de conmutación por error automática entre proveedores y un DSL de enrutamiento para componer varios modelos en una sola llamada. Establece el listón con un modelo alojado y luego prueba si el local lo supera en tu hardware. Ese orden ahorra las semanas que la gente pierde ajustando una descarga que nunca iba a ser suficiente.

Una advertencia para llevarse de este artículo. Ambas versiones publican porcentajes de retención, ambas están medidas por el proveedor en su propio entorno de pruebas y, a día de hoy, ningún tercero ha reproducido ninguna de las dos. Lo único que puedes verificar por tu cuenta es el artefacto: los tamaños de archivo, los empaquetados, los metadatos GGUF, la licencia y el rendimiento en tu propia máquina. Ahí es donde hay que empezar, y también donde los dos anuncios dejan de parecerse: los tamaños de paquete independientes del 27B se publican archivo por archivo en Hugging Face, y la huella que se comenta de los modelos pequeños, de 0,43 GB, 0,95 GB y 2 GB, se refiere solo al modelo de lenguaje, con la torre de visión excluida. Compáralos con la misma base o el 9B parecerá haber perdido una discusión que nunca tuvo.

Nada de eso es hipotético: los fallos documentados de IA y los incidentes de agentes detrás de lanzamientos como este se recopilan en el OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, severidad, grado de confianza e indicador de disputa.