Bonsai 2 対 Ternary Bonsai 2 27B：ファミリー名が二役を担っている

を検索するとBonsai 2、フットプリントが1桁にわたって異なるおよそ5つの成果物に行き着きますが、名前からは、ある記事がどれについて述べているのかは明らかではありません。Ternary Bonsai 2 27Bが該当するもの、すなわち Qwen3.8-27B をベースに構築された単一の27Bクラスの三値モデルで、2026年9月17日に発表され、5.95 GB の dense-trit パックまたは 7.21 GB の 2-bit-slot パックとして提供されています。単なる Bonsai 2は包括的な名称です。同じ名前はTernary Bonsai 2 2B、Ternary Bonsai 2 4B、およびTernary Bonsai 2 9Bを指し、これらは Qwen3.5 をベースに構築され2026年10月15日に発表されたはるかに小さい3つのモデルであり、さらに現在では、4つのサイズすべてを1つのタグファミリーで提供する Ollama ライブラリのエントリも含まれます。

つまりこれは、よくある一対一の対決ではない。一方は他方の部分集合であり、有益な問いはどちらが優れているかではなく、「Bonsai 2」と検索ボックスに入力した読者が実際に求めているのはどちらなのか、という点にある。答えは、その命名が隠しているある事柄にかかっている。すなわち、このファミリーは二つのファミリーであり、ベースモデルによって分かれており、その分かれ目はサイズの数字が示唆する場所にはない。

一つの名前を名乗る二つの家族

公開ファイルのGGUFヘッダーを読むと、その継ぎ目はまさにメタデータフィールドにある。Bonsai 2のすべての成果物 — 2B、4B、9B、27Bのいずれも — が general.architecture = qwen35 を報告している。この文字列はQwen3.5のハイブリッドアテンション基盤を示しており、小さい3つについては完全に正しい。モデルカードは、アーキテクチャが変更されていないベースモデルとしてQwen3.5-2B、Qwen3.5-4B、Qwen3.5-9Bを挙げている。27Bは別物だ。そのベースはQwen3.8-27Bであり、より新しく強力な27Bハイブリッドアテンションモデルで、Qwen3.8が同じ系統のバックボーンを維持しているため、たまたまアーキテクチャ文字列を共有している。

ベンダー自身のリリースノートは、並べて読めばその分岐が見えるようにし、どちらか片方だけを読めば見えないようにしている。小型モデルに関する10月15日の投稿は、それらが「Qwen3.5に基づく」と述べ、Bonsai 2 27Bに加わるものだと説明している——これは別物として正確に位置づけられている。27Bに関する9月17日の投稿はQwen3.8-27Bと述べている。2つの発表、2つのベースモデル、1つのファミリ名、そして「Bonsai 2はQwen3.5に基づく」と述べる第三者記事は、完璧に出典が明示されているように見えながら、27Bについて誤っている。

それが重要なのは、ここではベースモデルの生成が些細な細部ではないからです。それは能力の上限を定め、保持率のパーセンテージが何のパーセンテージなのかを定めます。そして、それは小規模モデルのベンチマーク数値と27Bのベンチマーク数値が一つの曲線上にある二点ではなく、二つの別個のベースラインに対する二つの別個の報告であることを意味します。それらを一つの列に並べて示す表は、疑ってかかるべきです。

数字を横に並べて

すべての数値はPrism MLによるベンダー報告値であり、独自に再現されたものはありません。

• ベースモデル — Ternary Bonsai 2 2B / 4B / 9B：それぞれ Qwen3.5-2B、-4B、-9B；Ternary Bonsai 2 27B：Qwen3.8-27B

• 発表 — 小型の3つは2026年10月15日、27Bは2026年9月17日

• 最小の言語モデルパック — 2Bで0.429 GB PTQ1_0、9Bで1.997 GB PTQ1_0、27Bで5.947 GB PTQ1_0

• デフォルトパック — すべて PQ2_0：それぞれ 0.517 GB、1.146 GB、2.417 GB、7.206 GB

• 重みあたりのビット数 — 2Bで約1.83、4Bで約1.81、9Bで約1.78、27Bでは理想1.72／パック時1.75

• コンテキスト — ファミリー全体で262,144トークン、Qwenバックボーンから継承

• ビジョン — すべてのサイズで個別の mmproj パックを使用し、画像が届いたときのみ読み込まれる

• ライセンス — 全体を通して Apache 2.0

• 報告されている保持率 — 27B: 14のベンチマークにわたりQwen3.8-27B FP16の98.2%; 小型モデル: 6つのスキル領域にわたる19のベンチマーク、自身のQwen3.5ベースラインに対するカテゴリ別保持率として報告

そのリストの一行が、27Bでは5.95 GBかかるのに対し9Bでは2.00 GBで済む理由であり、それは単にパラメータ数だけの話ではない。27Bは、埋め込み、アテンション投影、MLP投影、LMヘッドにわたって「エンドツーエンド三値」と記述されているが、決定的な細部が一つある。すなわち、少数のテンソル——線形アテンション層の再帰状態パスと正規化重み、約2,620万パラメータ、言語モデルの0.0976%——はより高い精度のままに保たれ、その残りの部分が、見出しの数値を重みあたり1.71ビットから1.72ビットへと動かしている。9Bでは同じ仕組みで約1.78になる。大きいモデルのほうが、重みあたりではより効率的であり、決して効率が悪いのではない。固定の高精度オーバーヘッドが10倍のパラメータ数に分散されるからだ。重みあたりビット数の表からどのサイズを選ぶかを考えるなら、表が示している方向はそれだ。

小型モデルが実際に優位に立つ場面

品質ではなく、主張の形だ。小型モデルのリリースは、このファミリーで冗長性に関する主張を公表している唯一のもので、どちらの発表に含まれる中でも最も検証しやすいものだ。Prism ML は、9B が標準的な指示追従タスクと日常的な数学タスクでトークン数がおよそ40%少ないと報告している。これは能力ではなく出力の長さに関する記述であり、自分のプロンプトを使って半日で検証できる。同じ投稿では、繰り返しループの回避と冗長性の制御が明示的な開発優先事項として挙げられている。これは、前の世代に問題があったときに書くようなものだ。

また、これはいくつかのカテゴリで100%超の保持率を報告する唯一のリリースでもある——2Bでは指示追従121.5%、数学107.8%、コーディング115.0%で、フル精度のQwen3.5ベースラインに対する値だ。これらはベンダー自身のスイートにおけるベンダー自身の数値であり、圧縮モデルが手選びのベンチマークで元モデルを上回るという主張は、少なくとも三値演算についてと同じくらい、訓練とハーネスについての主張でもある。27Bの報告はより保守的な形をとっている——86.32に対して84.78、数学は97.06に対して96.57、コーディング水準は89.07に対して89.42で、損失は知識/推論と視覚に集中している——これは1.7ビット表現が生み出すべきプロファイルだ。一方の報告の損失が理論の予測どおりの場所に現れ、他方の利得がベンダーが前面に出すために選んだカテゴリに現れるとき、その非対称性は情報である。

パッケージング：27Bの静かな強み

2026年10月17日以降、4つのサイズすべてが Ollama から bonsai-2:2b、:4b、:9b、:27b としてプル可能です——合計9個のタグで、各サイズには -q2_0 エイリアスも付いています。これは最近のことで、ベンダーによる告知はなく、実際に何を配信しているのか知る価値があります。Ollama のタグは Q2_0 パッキングに解決され、これはアップストリームの llama.cpp がロードできる唯一のものです。dense-trit PTQ1_0 パック——ファミリー内で最小のファイル——はレジストリにまったく存在しません。したがって、便利な経路と小さい経路は別の経路であり、それは4サイズすべてに等しく当てはまります。

27Bが異なるのは、何を出荷していないかという点です。4Bと9Bには、それぞれ任意で使える投機的デコーディング用ドラフターが2つ付属します。2ビットスロットパックに組み込まれたMTPヘッドと、コピー中心の作業で役立つ一方、一般的なチャットでは通常のデコーディングより遅いDFlash2ブロックドラフターです。2Bはあえてドラフターなしで出荷されています。ベンダーの注記によれば、その規模ではデコードステップ自体がすでに安価であり、swept-depthドラフティングは日常的なプロンプトでは通常のデコーディングより遅いと測定されたためです。27Bの世代では、第1世代の前身が搭載していた同等のドラフターが削除されました。

それはサイズ間の実際の能力差であり、Ollamaのページにはまったく載っていない。

決めること、そしてその答えをどう扱うか

27Bは、ワークロードが長期的な推論——コード、数学、エージェント型ツールチェーン、262Kコンテキストに保持された長文ドキュメント——である場合に選ぶべきモデルだ。これは、Qwen3.8世代のベースモデルを備えたファミリー唯一のサイズであり、ベンダーのカテゴリ別内訳によれば、圧縮によって数学とコーディングではほとんど犠牲にならない一方、知識の想起と視覚では影響を受けている。

9Bは、制約が難易度ではなくメモリである場合に選ぶべきモデルです。ノートPC常駐のアシスタント、スマートフォンへの展開、2 GBか6 GBかが出荷できるかどうかの分かれ目となるあらゆる用途です。公表されているプロファイルは、27Bのものがベースラインに対して最も弱いまさにその点——指示追従と冗長性の制御——で最も強く、これは小さなローカルアシスタントが実際にトークンを使うところです。2Bと4Bはさらに厳しい予算向けに存在し、そのサイズでは保持率の数値がノイズが多くなるため、ベンダーの表よりも自分のプロンプトの方が良い指針になります。

ほとんどの読者が実際に行う比較、つまり互いとの比較ではなくホスト型モデルとの比較について一言。Bonsai 2 のどちらのサイズも OrcaRouter 経由で提供されているわけではなく、本稿がそう主張しているわけでもない — それらは自分でダウンロードする重みだ。だが「2 GB のローカルモデルはこのタスクに十分か」という問いに答えるには、何かと比較して測る必要がある。そして OrcaRouter は200以上のホスト型モデルの前にマークアップ0%の単一APIを置き、プロバイダの定価をそのまま通し、さらにプロバイダ間の自動フェイルオーバーと、複数のモデルを単一の呼び出しに組み合わせるためのルーティングDSLを備えている。まずホスト型モデルで基準を定め、次にローカルモデルが自分のハードウェアでその基準をクリアするかどうかを試そう。この順序にすれば、決して十分にはなり得なかったダウンロードをチューニングするのに人々が失う数週間を節約できる。

この記事から持ち帰るべき注意点が一つある。両方のリリースは保持率のパーセンテージを報告しているが、いずれもベンダー自身のハーネス上でベンダーが測定したものであり、今日時点で第三者がどちらを再現した例もない。自分で検証できる唯一のものは成果物そのものだ——ファイルサイズ、パッキング、GGUFメタデータ、ライセンス、そして自分のマシンでのスループット。そこが出発点であり、またそこが、この二つの発表が互いに似なくなる地点でもある。27BのスタンドアロンパックのサイズはHugging Face上でファイルごとに公開されており、小型モデルについて口コミで言われる0.43 GB、0.95 GB、2 GBというフットプリントは、ビジョンタワーを除いた言語モデル単体を指している。同じ基準で比較しなければ、9Bは決してしていない議論に負けたように見えてしまう。

そうした話は決して仮定ではない。このようなリリースの背景にある、記録に残されたAIの障害やエージェントのインシデントはOrcaRouter AIインシデントアーカイブに集められており、各項目には独自の情報源、深刻度、信頼度グレード、係争中フラグが付されています。