Bonsai 27B：Bonsaiファミリーの27Bモデルを解説

Bonsai 27B は、PrismML の Bonsai ファミリーにおける 270 億パラメーターモデルであり、人々が「bonsai 27b」と入力したときに指しているのはこれです。ただし、名前だけではたどり着けません。それに近い名前に反応するものが 3 つあるからです。Bonsai 27B は Qwen3.6-27B の低ビット再構築版で、ベンダー自身の発表による日付は 2026 年 7 月 14 日です。そして同じモデルの 2 つのパックとして提供されます。1-bit Bonsai 27B はバイナリ {−1, +1} の重みを約 3.9 GB に保存し、Ternary Bonsai 27B は三値 {−1, 0, +1} の重みを重みあたり実効 1.71 ビットで保存します — ベンダーの見出し数値では 5.9 GB、実際に出荷されるパックでは 7.165 GB です。これは、Qwen3.8-27B 上に構築された別名の第 2 世代である Ternary Bonsai 2 27B ではなく、PrismML が Snapdragon AR1 Gen 1 スマートグラス向けに構築した 20 億パラメーターの視覚言語モデルでもありません。Bonsai 27B の両方のパックは、262,000 トークンのコンテキスト、コンパクトな 4-bit ビジョンタワー、Apache 2.0 ライセンスを備えています。モデルは Bonsai 27B です。続いて下す判断は、その 2 つのパックのどちらがあなたのメモリ予算に合うかです。

このページはそのモデルのリファレンスです。これは発表ではありません。Bonsai 27B は2026年7月から利用可能であり、今それについて答える価値のある問いは、読者が抱いてたどり着くもの——それが正確には何なのか、その名前が何を区別しているのか、そして実際に動かすのにどれだけかかるのか——です。

どれが27Bですか

ここでの紛らわしさは現実のものであり、何よりも先に解消する価値がある。なぜなら、推測を誤ると、20億パラメータのモデルへ導かれたり、正しいモデルの間違った世代へ導かれたりするからだ。

• Bonsai — ファミリー名であり、ベンダーがそれに付けた名称でもあります。単体では、ダウンロードできるものを何も特定しません。PrismMLはBonsai 1.7B、Bonsai 4B、Bonsai 8B、Bonsai 27B、Bonsai Imageをリリースしており、さらに20億パラメータのグラスモデルや、小型ライン向けの、Ternary Bonsaiと呼ばれる2026年4月の以前のリリースもあります。その単語だけを検索すると、その集合の中のどれかにランダムにたどり着きます。

• Bonsai 27B — このページの主題です。27Bシリーズの第1世代で、Qwen3.6-27B に由来し、2026年7月14日付です。ページで「Bonsai 27B」とだけ書かれ、他の限定語も「2」もない場合、それが意味するのはこのモデルであり、これが使用すべき名称です。

• Ternary Bonsai 27B — 別のモデルではありません。これはBonsai 27Bの品質重視パックです。同じ27Bモデル、同じアーキテクチャ、同じベースを持ち、バイナリ重みの代わりに三値重みを使用しています。リポジトリ名はTernary-Bonsai-27B-ggufで、そのモデルカードにはバイナリ版のカードとまったく同様にQwen3.6-27Bがベースとして記載されています。ここでの「Ternary」は重みの形式であり、バージョンではありません。

• Ternary Bonsai 2 27B — 真に異なるモデルです。27B系の第2世代であり、Qwen3.8-27Bを基に構築され、2026年9月17日に発表された、異なるパラメータ配分と異なる品質主張を備えています。「2」がその違いのすべてを担っています。

• 1-bit Bonsai 2B — 異なる規模の別のファミリーメンバー：メガネクラスのハードウェア向けの20億パラメータ視覚言語モデルであり、どのような精度であっても27Bモデルではない。

では、この中のどれが27Bモデルなのかをはっきりさせたくてここに来たのなら、答えはこうです。上記の3行目と4行目は同じモデルの2つの重み形式であり、5行目はそうではないものです。実用的には、それをBonsai 27Bと呼び、必要なときにはパックを追加してください。

仕様（モデルカードより）

このセクションのすべての数値は、PrismMLが2つのパックについて公開したモデルカードに由来するものであり、ベンダー自身による自社モデルに関する説明です。数値が測定値ではなく主張である場合は、その旨が明示されています。

• パラメータ — 合計で約27.3Bで、「27B」はその全体を指します。内訳を知っておく価値があります。メモリ挙動を説明してくれるからです。およそ24.8Bが64ブロックにわたる言語バックボーンに、約2.5Bが埋め込みとLMヘッドに、そして約0.46Bが27ブロックのビジョンタワーにあります。低ビット表現はエンドツーエンドで適用されます — 埋め込み、アテンション、MLP、LMヘッド — 言語ネットワークのどこにも高精度への逃げ道はありません。

• コンテキスト — 完全な262,000トークンで、長コンテキスト版も、コンテキスト縮小ビルドもありません。そのウィンドウのコストは、そのまま支払うのではなく管理されています。バックボーンはハイブリッドなので、64層のうち完全なアテンションキャッシュを保持するのは16層だけで、そのキャッシュはほぼロスレスの4ビット形式で保存されます。フル262Kウィンドウでは、圧縮キャッシュがモデルをバイナリパックでおよそ9.4 GB、三値版で12.8 GB以内に収めています。

• モダリティ — テキストと画像、両方のパック。ビジョンタワーはコンパクトな4ビット形式（0.63 GB）で提供され、BF16コピー（0.93 GB）も同梱されます。ビジョンはまた、圧縮のコストが最も大きくなる部分であり、これについては以下で説明します。

• 重みの形式とサイズ — 1-bit Bonsai 27B はバイナリ {−1, +1} 重みを使用し、FP16 のグループ単位スケーリングを備え、真の実効 1.125 ビット/重みとして GGUF Q1_0_g128 でパックされています。出荷されるファイルは 3.803 GB で、カードではデプロイ時のフットプリントを約 3.9 GB に丸めています。Ternary Bonsai 27B は三値 {−1, 0, +1} 重みを使用し、同じグループ単位スケーリングを備えています。三値は log₂3 ≈ 1.585 ビットの情報を運ぶため、この表現の下限は約 1.71 ビット/重みとなり、理想値は 5.9 GB になります。公開されている三値パックはその理想値より大きくなっています。これは今日のカーネルが各三値を 2 ビットスロットに格納しているためです——デプロイ時で 2.125 ビット/重み——出荷されるファイルは 7.165 GB です。PrismML は都合のよい数字だけではなく両方の数値を示しており、それらの差はモデリング上の選択ではなくカーネルの制約です。

• ライセンス — 両方のパックとも Apache 2.0 で、両リポジトリとベンダーの発表の両方で明記されている。これは用途分野の制限がない寛容型ライセンスであり、このウェイトサイズでは、たいていの場合よりもその点が重要になる。

• ベースモデル — いずれの場合も Qwen3.6-27B です。これはゼロから学習されたモデルではなく、他社のモデルを再圧縮したものであり、その結果として Bonsai 27B の能力の上限と更新頻度はいずれも、PrismML ではなく上流の 27B 系列に追随しています。

一度述べられた三項関係

その2つのパックは1つのモデルであり、正直に要約すれば、ternary は品質を、binary はフットプリントを買うのであって、両者の間の隔たりは 3.9 GB 対 7.2 GB というサイズ差が示唆するよりも小さい。

PrismML自身の15ベンチマークによるthinkingモードスイートでは、FP16 Qwen3.6-27Bベースラインのスコアは85.07。Ternary Bonsai 27Bは80.49 — 保持率94.6%で、ベンダーは約95%に丸めている。1-bit Bonsai 27Bは76.11 — 89.5%、約90%に丸められる。つまり、品質重視のパックは、バイナリパックとフル精度の間の距離をおよそ半分取り戻しつつ、約3.3 GB多く消費する。そして12 GBのスマートフォンに収まるのはバイナリパックの方だ。同じスイートでは、同じベースラインの4-bit Q4_K_XLビルドが84.99、つまり保持率99.9%で、17.6 GBに収まる — これが、どちらの低ビットパックがそもそも存在する理由を説明する比較だ。なぜなら、品質ではそれらを上回り、モデルに割り当てられるメモリが18 GB未満のあらゆるデバイスでは負けるからである。

バイナリパックが後退する箇所は一様ではなく、カテゴリ別の内訳が役立つ部分だ。FP16ベースラインと比較すると、数学では95.33から91.66に、コーディングでは88.74から81.88に下がるが、指示追従では78.47から65.74に、エージェントおよびツール呼び出し作業では80.00から66.03に、視覚では72.61から59.57に下がる。ワークロードが算術演算またはコード補完なら、3.9 GBはほぼ無料に等しい。ツール呼び出しエージェントや画像理解なら、圧縮のコストが実際に支払われているのはそこだ。

モデルカードはまた、知能密度と呼ぶ派生指標を公開している——ギガバイトあたりの総合スコアで、満点が無限大に近づくように正規化されている。その指標では、1-bit Bonsai 27B が 0.530、Ternary Bonsai 27B が 0.400 に達し、同じベースラインの 2-bit IQ2_XXS ビルドが 0.199、4-bit Q4_K_XL ビルドが 0.155、FP16 モデルが 0.051 となっている。このリストで興味深い数字は最初の比較だ。バイナリパックは、従来の 2-bit ビルドを半分以下のフットプリントで総合品質において上回っており、これがこのファミリーの主張全体を一行で表している。

2つのパックの完全な直接対決と、それぞれの数値がどこから来ているのかは、同じファミリー名を冠する20億パラメータモデルとともに、このブログの「Bonsai vs Bonsai 27B」ページで説明されています。

このモデルとともに持ち上がる一つの問いには、事実に基づく回答が一つあれば十分で、それ以上は不要です。これらのパックは、再トレーニングされた変種ではなく、同じ基盤モデルを低ビットで符号化したものであり、リポジトリはそれらに並べて別個に調整されたチェックポイントや無検閲のチェックポイントを公開していません。提供されている唯一のフル精度の成果物は、同じ重みを展開したFP16変換であり、これは圧縮されたパックを標準のツール上でその本来のベースラインと比較できるように公開されたものです。

ウェイトとライセンス、リポジトリより

Bonsai 27Bの重みはHugging Faceのprism-ml組織で公開されており、ファイル一覧がこのリリースについて最も具体的なものだ。バイナリパックのリポジトリには、モデル本体が3.803 GB、比較用の同一モデルのFP16 GGUFが53.808 GB、DSpark投機的デコーディング用ドラフターが4ビットで1.787 GB、BF16で7.292 GB、ビジョンタワーが0.931 GBと0.629 GBで含まれている。三値リポジトリには、独自の7.165 GBのパックに加えて、group-128ではなくgroup-64で、最適ではなく上流互換の7.585 GBの第2のパッキング、および同じドラフターとビジョンのファイルが含まれている。両リポジトリはApache 2.0で、どちらもベースとしてQwen3.6-27Bを挙げている。

そのリストから2つのことが導かれる。1つ目は、53.808 GB 対 3.803 GB というのがモデルカードが冒頭で示す 14.2 倍の比率であり、これは主張ではなく検証可能だ――完全精度のファイルがすぐそこにある。2つ目は、リリース物はモデル本体より重いということだ。マルチモーダル経路で必要となるドラフターとビジョンタワーも含めれば、3.9 GB のモデルにさらに約 2.4 GB を加えることになる。3.9 GB という見出しの数字は言語ウェイトであり、デプロイメント全体ではない。

ダウンロード数は、品質重視のパックがリードする唯一の領域だ。2026年10月時点で、ternary GGUFリポジトリは590,000ダウンロードを超え、binaryパックは400,000強にとどまる一方、両者のMLXコンテナはそれぞれ100万を超えている。この形が示唆するのは、このモデルの大半がサーバー上ではなくAppleハードウェアで動かされていること、そしてダウンロードしている人々が可能な限り最小のファイルではなく、余分な5ポイントの保持率を選んでいることだ——これはおおむね、ベンダーがこのペアを設計した狙いそのものである。

それを実行する

今日入手できるのは1パックにつき4種類のアーティファクトで、どれが欲しいかは品質ではなくあなたのランタイムによって決まります。

• llama.cpp 用の GGUF — 主要な経路であり、低ビットカーネルが想定して書かれた対象でもあります。どちらのパックも CUDA、Metal、CPU 向けの llama.cpp ビルドですが、1ビットおよび三値カーネルはアップストリームではなく PrismML 独自のフォークに存在するため、現時点では標準の llama.cpp では正しく読み込めません。group-64 の三値パッキングは、まさにアップストリーム互換性が必要で、そのために 7.165 GB ではなく 7.585 GB を受け入れる用意がある場合のために存在します。

• Appleシリコン向けMLX — バイナリパックが5.129 GB、三値版が8.491 GBという、別々に出荷されるコンテナです。MLXのバイナリコンテナはGGUFバイナリパックより大きいですが、これは異なるモデルではなくコンテナのオーバーヘッドの違いによるものである点に注意してください。

• サーバーフレームワーク向けのAWQ 4ビット — AWQチェックポイントを前提とするサービングフレームワーク向けに、各モデルを4ビット化したビルド。合計18.70 GBの9つのシャードで、マルチGPUレシピも含みます。これは低ビットの成果物ではなく、ラック上で意味のある精度で動かす同じモデルであり、モデルが存在する理由そのものを犠牲にしています。

• 展開済みFP16 safetensors — 標準のHugging Face形式による完全な約54 GBのモデルで、1ビット重みをネイティブにサポートしていないフレームワーク向けに明示的に公開されています。ベンダーによると、低ビットカーネルがアップストリームに取り込まれ次第、この成果物は廃止される予定です。

バイナリパックにおける実測デコードスループットは、モデルカード自体の表によれば、M5 Maxで毎秒66.4トークン、M5 Proで44.2、M4 Proで26.0、H100で104.8で、プリフィルはそれぞれ毎秒874、421、133、2,755トークンです。発表ページではより高いピーク値——M5 Maxで最大毎秒87トークン、RTX 5090で163——が引用されていますが、これは表の値ではなく、ベンダー自身のベストケース構成によるものです。この2組の数値は矛盾ではなく異なる測定条件として扱い、どちらもベンダー報告値として扱ってください。ピークメモリも、やはりカードによれば、バイナリパックで4Kコンテキスト時5.2 GB、10K時5.6 GB、100K時11.6 GB、三値パックで8.4、8.7、14.7 GBです——ただし、これらの数値は4ビットKVキャッシュ導入前のものであり、フル262Kウィンドウを1桁GB台まで下げるのはこの4ビットKVキャッシュだという注意点があります。

DSpark ドラフターはオプションであり、有効にする前に理解しておく価値があります。というのも、出力を一切変えないからです。これは、5つの等間隔に配置されたターゲット層から取り出された隠れ状態を条件とする6層のブロック並列トランスフォーマーで、サービング精度で約0.5 GBを追加し、単独でサンプリングするのではなくターゲットモデルに対して検証します。そのためベンダーは、品質の数値に触れることなく、CUDA上で1.37倍の高速化を提示できます。Apple siliconではデフォルトでは有効になっていません。

ローカルモデルが行き詰まる地点こそが興味深いエンジニアリング上の問いであり、それはモデルの問題ではなくルーティングの問題だ。ラップトップ上の3.9 GBモデルは、コンテキストに収まるものだけを処理する。それ以外はすべてどこかへ送る必要があり、その送り先はAPIの背後にあるホスト型モデルだ。OrcaRouterはまさにその層である——200以上のホスト型モデルにまたがる単一のエンドポイントを、プロバイダーの定価に対して0%のマークアップで、プロバイダー間の自動フェイルオーバー、そしてローカル層からホスト層へのエスカレーションルールを、手作業で組み立てるのではなく設定として表現する。それはローカルモデルの上位にある層であり、その代替ではない。

比較インデックス

Bonsai 27Bは、隣り合うそれぞれが異なる問いに答えるファミリーに属しており、これらは各問いを引き受けるページだ——ここでそれらが再論されることはない。

• Bonsai 対 Bonsai 27B — 20億パラメータのグラスモデルとこちらを比較：パラメータは16倍、コンテキストは256倍、そしてファミリー名が、あなたがダウンロードしているものについて何の情報も持たない理由。このページはここにあるブログ記事であり、ホストされたモデルではありません。このファミリーでは、その区別をはっきり保つ価値があります。

• Bonsai 27B 対 Qwen3.8-27B — このモデルと、それが採用していないより新しいベースモデルとの直接対決です。このバッチ内の専用ページでその比較を扱っており、両モデルは似た名前で呼ばれ、1世代しか離れていないため、本仕様の延長としてではなく、それ自体として読む価値があります。

• Bonsai vs Ternary Bonsai 2 27B — 世代をまたぐ飛躍、そして2つのリリースがそれぞれ異なる物差しで品質を報告しているという事実：一方ではベースラインの維持率、もう一方では比較に基づく主張であるということ。

• Ternary Bonsai 2 27B — Qwen3.8-27B を基盤とした単体の第2世代で、これではなくより新しいモデルを求めることにした読者向けです。

何が未解決なのか

このページのあらゆる品質指標はPrismMLのものであり、PrismML自身の15ベンチマークスイート上で測定されたもので、社外の誰もその再現を公開していない。これが、Bonsai 27Bについて知られていることにおける最大にして唯一の空白である。圧縮に関する主張は異例なほど具体的で、異例なほど検証可能でありながら、第三者による検証がなされていない。ベンダーはまた、エージェント的コーディング——長期的で、複数ファイルにわたり、実行と修復を繰り返すワークフロー——が今回のリリースの強い対象ではなく、それ向けに調整された変種がロードマップ上の次のものであると明言しており、これは上記のカテゴリ別内訳におけるツール呼び出しと指示追従の損失と整合している。独立した評価が存在するまでは、保持率の数値と密度ランキングの両方は、確立された結果としてではなく、ベンダーの立場として読まれるべきである。

確定しているのは、より小さく、より役に立つ部分だ。重みは存在し、サイズはファイル一覧と照合して確認でき、ライセンスは Apache 2.0 で、2つのパックは約3.3 GB異なる代わりに、保持される品質がおよそ5ポイント違う。それだけで両者を選ぶには十分だ。どちらが自分に適しているかは、自分のワークロードが算術寄りか、ツール呼び出し寄りかによって決まり、上のカテゴリ別の数値が、今日この判断に利用できる最良の証拠だ。