Bonsai 2 vs Ternary Bonsai 2 27B : le nom de famille remplit deux fonctions

Recherchez Bonsai 2 et vous tomberez sur environ cinq artefacts différents dont les empreintes couvrent un ordre de grandeur, et il n’est pas évident, d’après le nom, de savoir duquel un article donné parle. Ternary Bonsai 2 27B est celui qui est spécifique — un unique modèle ternaire de classe 27B construit sur Qwen3.8-27B, annoncé le 17 septembre 2026 et fourni sous forme d’un pack dense-trit de 5,95 Go ou d’un pack à emplacements 2 bits de 7,21 Go. Le simple Bonsai 2 est le terme générique : le même nom couvre Ternary Bonsai 2 2B, Ternary Bonsai 2 4B et Ternary Bonsai 2 9B, trois modèles beaucoup plus petits construits sur Qwen3.5 et annoncés le 15 octobre 2026, et il couvre désormais aussi une entrée de la bibliothèque Ollama qui sert les quatre tailles sous une même famille de tags.

Donc, il ne s'agit pas du duel habituel. Un côté est un sous-ensemble de l'autre, et la question utile n'est pas de savoir lequel est meilleur, mais lequel de ces deux un lecteur qui a saisi « Bonsai 2 » dans un champ de recherche veut réellement. La réponse dépend de quelque chose que le nom dissimule : la famille en recouvre en fait deux, séparées par modèle de base, et la séparation ne se situe pas là où les numéros de taille le laissent penser.

Deux familles portant un même nom

Lisez les en-têtes GGUF des fichiers publiés et la couture apparaît directement dans un champ de métadonnées. Chaque artefact Bonsai 2 — 2B, 4B, 9B et 27B confondus — indique general.architecture = qwen35. Cette chaîne correspond au backbone à attention hybride de Qwen3.5, et pour les trois petits modèles elle est tout à fait exacte : les fiches de modèle listent Qwen3.5-2B, Qwen3.5-4B et Qwen3.5-9B comme modèles de base, l'architecture restant inchangée. Le 27B est d'une autre nature. Sa base est Qwen3.8-27B, un modèle à attention hybride de 27B plus récent et plus puissant, et il se trouve qu'il partage la chaîne d'architecture parce que Qwen3.8 conserve la même famille de backbone.

Les notes de version du fournisseur lui-même rendent la séparation visible si on les lit côte à côte et invisible si on lit l'une ou l'autre isolément. Le billet du 15 octobre consacré aux petits modèles dit qu'ils sont « basés sur Qwen3.5 » et les décrit comme rejoignant Bonsai 2 27B — ce qui est présenté avec justesse comme une chose différente. Le billet du 17 septembre consacré au 27B indique Qwen3.8-27B. Deux annonces, deux modèles de base, un nom de famille, et un article tiers qui dit que « Bonsai 2 est basé sur Qwen3.5 » se trompe au sujet du 27B tout en ayant l'air parfaitement bien sourcé.

Cela compte, car la génération du modèle de base n’est pas un détail ici. Elle fixe le plafond de capacité, elle détermine cedont les pourcentages de rétention sont des pourcentages, et cela signifie que les chiffres de référence des petits modèles et ceux du 27B ne sont pas deux points sur une même courbe — ce sont deux rapports distincts établis par rapport à deux lignes de base distinctes. Traitez avec méfiance tout tableau qui les aligne dans une même colonne.

Les chiffres, côte à côte

Tous les chiffres sont fournis par le fournisseur Prism ML ; aucun n’a été reproduit indépendamment.

• Modèle de base — Ternary Bonsai 2 2B / 4B / 9B : Qwen3.5-2B, -4B, -9B respectivement ; Ternary Bonsai 2 27B : Qwen3.8-27B

• Annoncé — 15 octobre 2026 pour les trois petits ; 17 septembre 2026 pour le 27B

• Le plus petit pack de modèles de langage — 0,429 GB PTQ1_0 à 2B ; 1,997 GB PTQ1_0 à 9B ; 5,947 GB PTQ1_0 à 27B

• Pack par défaut — PQ2_0 pour tous : 0,517 Go, 1,146 Go, 2,417 Go et 7,206 Go respectivement

• Bits par poids — ~1,83 à 2B, ~1,81 à 4B, ~1,78 à 9B, 1,72 idéal / 1,75 empaqueté à 27B

• Contexte — 262 144 jetons sur toute la famille, hérités du socle Qwen

• Vision — un pack mmproj distinct pour chaque taille, {{1}}chargé uniquement lorsqu'une image arrive{{/1}}

• Licence — Apache 2.0 partout

• Rétention telle que rapportée — 27B : 98,2 % de Qwen3.8-27B FP16 sur 14 benchmarks ; petits modèles : 19 benchmarks sur six domaines de compétences, rapportés comme rétention par catégorie par rapport à leurs propres lignes de base Qwen3.5

Une ligne de cette liste explique pourquoi le 27B coûte 5,95 GB là où le 9B coûte 2,00 GB, et ce n’est pas uniquement une question de nombre de paramètres. Le 27B est décrit comme « ternaire de bout en bout » sur les embeddings, les projections d’attention, les projections MLP et la tête LM, avec un détail décisif : un petit ensemble de tenseurs — le chemin d’état récurrent des couches d’attention linéaire ainsi que les poids de normalisation, environ 26,2 millions de paramètres, soit 0,0976 % du modèle de langage — reste en précision supérieure, et c’est ce reste qui fait passer le chiffre affiché de 1,71 à 1,72 bits par poids. Sur le 9B, le même mécanisme donne ~1,78. Le modèle plus grand est plus efficace par poids, et non moins, car le surcoût fixe de haute précision est amorti sur dix fois plus de paramètres. Si vous cherchez à déterminer quelle taille choisir d’après un tableau de bits par poids, c’est la seule direction que ce tableau indique.

Là où les petits modèles gagnent vraiment

Non pas sur la qualité — sur la forme de l’affirmation. La version du petit modèle est la seule de cette famille à publier une affirmation sur la verbosité, et c’est l’élément le plus vérifiable que contienne l’une ou l’autre annonce : Prism ML indique que le 9B utilise environ 40 % de jetons en moins sur les tâches standard de suivi d’instructions et de mathématiques du quotidien. C’est une affirmation sur la longueur de sortie, pas sur la capacité, et vous pouvez la vérifier sur vos propres invites en un après-midi. Le même billet cite l’évitement des boucles répétitives et le contrôle de la verbosité parmi les priorités de développement explicites, ce qui est le genre de chose que l’on écrit quand votre génération précédente avait un problème.

C'est également la seule version qui rapporte une rétention supérieure à 100 % sur plusieurs catégories — 121,5 % en suivi d'instructions pour le 2B, 107,8 % en mathématiques, 115,0 % en codage, par rapport aux références Qwen3.5 en pleine précision. Ce sont les propres chiffres du fournisseur sur sa propre suite, et le fait qu'un modèle compressé surpasse son modèle source sur un benchmark sélectionné à la main est une affirmation qui porte sur l'entraînement et le harnais au moins autant que sur l'arithmétique ternaire. Le rapport du 27B est plus conservateur — 84,78 contre 86,32, avec les mathématiques à 96,57 contre 97,06 et le niveau de codage à 89,42 contre 89,07, et la perte concentrée dans les connaissances/raisonnement et la vision — ce qui est le profil qu'une représentation à 1,7 bit devrait produire. Quand les pertes d'un rapport tombent exactement là où la théorie les prédit et que les gains d'un autre tombent sur les catégories que le fournisseur a choisi de mettre en avant, cette asymétrie est une information.

Packaging : l'avantage discret du 27B

Depuis le 17 octobre 2026, les quatre tailles sont téléchargeables sous les noms bonsai-2:2b, :4b, :9b et :27b depuis Ollama — neuf tags au total, chaque taille portant aussi un alias -q2_0. C'est récent, ce n'est pas annoncé par le fournisseur, et il vaut la peine de savoir ce que cela propose réellement. Les tags d'Ollama correspondent au packing Q2_0, le seul que llama.cpp en amont peut charger. Les packs PTQ1_0 à trit dense — les plus petits fichiers de la famille — ne figurent pas du tout dans le registre. Ainsi, le chemin pratique et le chemin compact sont des chemins différents, et ce de la même façon pour les quatre tailles.

Là où le 27B diffère, c'est dans ce qu'ilne livre pas. Les 4B et 9B sont chacun fournis avec deux drafteurs optionnels de décodage spéculatif : une tête MTP intégrée au pack à emplacements de 2 bits, et un drafteur par blocs DFlash2 qui aide sur les tâches à forte composante de copie et qui est plus lent que le décodage ordinaire sur les conversations générales. Le 2B est livré sans, délibérément — la note du fournisseur précise qu'à cette taille une étape de décodage est déjà peu coûteuse et que le drafting à profondeur balayée s'est mesuré plus lent que le décodage ordinaire sur les prompts du quotidien. La génération du 27B a abandonné le drafteur équivalent que portait son prédécesseur de première génération.

C'est une véritable différence de capacités entre les tailles, et elle n'apparaît pas du tout sur la page Ollama.

Décider, et que faire de la réponse

Le 27B est celui vers lequel se tourner si la charge de travail relève du raisonnement sur un horizon long : code, mathématiques, chaînes d’outils agentiques, longs documents maintenus dans un contexte de 262K. C’est la seule taille de la famille dont le modèle de base provient de la génération Qwen3.8, et la répartition par catégories du fournisseur indique que la compression ne lui coûte presque rien en mathématiques et en codage, tout en prélevant son tribut sur le rappel des connaissances et la vision.

Le 9B est celui vers lequel se tourner si la contrainte est la mémoire plutôt que la difficulté : assistants résidents sur ordinateur portable, déploiements sur téléphone, tout ce où 2 Go contre 6 Go fait la différence entre livrer ou non. Son profil publié est le plus solide exactement là où celui du 27B est le plus faible par rapport à la référence — le suivi d'instructions et le contrôle de la verbosité — ce sur quoi un petit assistant local dépense réellement ses tokens. Les 2B et 4B existent pour des budgets encore plus serrés, et à ces tailles, les chiffres de rétention deviennent assez bruités pour que vos propres prompts soient un meilleur guide que le tableau du fournisseur.

Une remarque sur la comparaison que la plupart des lecteurs feront réellement, à savoir avec des modèles hébergés plutôt qu'entre eux. Aucune des tailles de Bonsai 2 n'est servie via OrcaRouter, et cet article ne suggère pas le contraire — ce sont des poids que vous téléchargez. Mais à la question « un modèle local de 2 Go est-il assez bon pour cette tâche », on répond en mesurant par rapport à quelque chose, et OrcaRouter met une API unique en face de plus de 200 modèles hébergés à 0 % de marge, avec le prix catalogue du fournisseur répercuté, ainsi qu'un basculement automatique entre fournisseurs et un DSL de routage pour composer plusieurs modèles en un seul appel. Établissez la barre avec un modèle hébergé, puis testez si le modèle local la franchit sur votre matériel. Cet ordre vous épargne les semaines que l'on perd à régler un téléchargement qui n'aurait de toute façon jamais suffi.

Une mise en garde à retenir de cet article. Les deux versions publiées rapportent des pourcentages de rétention, toutes deux mesurées par le fournisseur sur son propre banc d'essai, et à ce jour, aucun tiers n'a reproduit ni l'une ni l'autre. La seule chose que vous pouvez vérifier vous-même, c'est l'artefact — la taille des fichiers, les empaquetages, les métadonnées GGUF, la licence et le débit sur votre propre machine. C'est là qu'il faut commencer, et c'est aussi là que les deux annonces cessent de se ressembler : les tailles des packs autonomes du 27B sont publiées fichier par fichier sur Hugging Face, et l'empreinte de 0,43 Go, 0,95 Go et 2 Go attribuée aux petits modèles par le bouche-à-oreille ne concerne que le modèle de langage, la tour de vision exclue. Comparez-les sur la même base, sinon le 9B semblera avoir perdu un débat qu'il n'a jamais eu.

Rien de tout cela n'est hypothétique : les défaillances documentées de l'IA et les incidents d'agents qui sous-tendent des versions comme celle-ci sont recueillis dans l'OrcaRouter AI Incident Archive, où chaque entrée est accompagnée de ses propres sources, de son niveau de gravité, de son degré de confiance et de son indicateur de contestation.