ZwZ2-9B vs Gemma 4 12B：1つのモデル、1つのモデルカード、そして実際にリリースできるのはどちらか

Gemma 4 12B2026年5月23日から公開されています。モデルカード、技術レポート、公開された評価スイート、5つの兄弟サイズ、そしてHubでのダウンロード数が直近1か月だけで79,000を超えています。ZwZ2-9B2026年10月16日—今日—から、READMEもライセンス欄もパイプラインタグもないリポジトリ内の8つのファイルとして公開されています。両者はおおよそ同じサイズです。どちらも画像を受け付けます。どちらも同じ262,144ポジションのコンテキスト上限を宣言しています。そして、両者の準備状態は同じどころではありません。GPUをどこに使うかを決めるなら、これが唯一重要な比較です。

短く言えば、Gemma 4 12BはGoogle DeepMindによる完成品で、他の人々がすでにその限界を突いてから5か月が経っている。ZwZ2-9BはinclusionAIのチェックポイントで、ラボの外では誰も、ラボ自身も含めて、まだ説明していない。今月何かを出荷する必要があるなら、選択は僅差ではなく、それは重みについての論評でもない。来月何をプロトタイプするか決めようとしているなら、下記の数値を読んでから自分の評価を実行すること。この2つのモデルのうち、読むべきものを与えてくれているのは片方だけなのだから。

2つのスタック、次元ごとに

• パラメータ — ZwZ2-9B: bfloat16で9,409,813,744。Gemma 4 12B: 119.5億。

• アーキテクチャ — qwen3_5、線形アテンションとフルアテンションを組み合わせたハイブリッド。Gemma: gemma4_unified はエンコーダ不要で、モダリティをまたいで統合されています。

• 層 — ZwZ2-9Bでは32（線形アテンション24、フルアテンション8）。Gemma 4 12Bでは48（1,024トークンのスライディングウィンドウが40、フルアテンションが8）。

• コンテキスト上限 — 双方が262,144ポジションを宣言。

• 語彙 — 248,320 対 262,144、Gemma のものは画像・音声・動画のトークン ID 用に確保されています。

• モダリティ： — ZwZ2-9B ではテキスト、画像、動画。Gemma 4 12B ではテキスト、画像、音声、動画で、その構成には 640 次元の音声タワーが含まれています。

• ライセンス — 宣言なし 対 Apache-2.0。

• 実績 — ダウンロード数ゼロ、いいね2件に対し、先月はダウンロード数79,565件、いいね790件。

そのうち2行は、直感を覆すものなので、もう一度見る価値がある。1つ目はアテンションスケジュールだ。ZwZ2-9Bは8つのフルアテンション層を持つ32層モデルで、Gemma 4 12Bは8つのフルアテンション層を持つ48層モデルである。どちらも、アテンションの高コストな部分はまれであるべきだと考えているが、どの程度まれか、つまり4層に1層か6層に1層かについて意見が分かれているだけだ。2つ目はコンテキスト上限で、ドキュメントのない9.4Bチェックポイントと、DeepMindの11.95Bフラッグシップが、まったく同じ262,144という数値に行き着いている。これは両者の間の何らかの関係ではなく、設計目標の偶然の一致である。

Gemma 4 12Bが単に先行しているだけでなく、まったく別のカテゴリーにある領域

音声がまず第一だ。Googleのモデルは音声をネイティブに取り込み、専用のオーディオタワーと、語彙内にオーディオトークンIDを備えている。ZwZ2-9Bのトークナイザーも<|audio_start|>、<|audio_end|>、<|audio_pad|>を予約しているが、その設定にはいかなる種類の音声設定も含まれていない。つまりこれらのトークンは、ZwZ2-9Bが持つ能力ではなく、受け継いだ語彙にすぎない。もしあなたのワークロードに音声が含まれるなら、ここでこの比較は終わりであり、その理由を正確に述べておく価値がある。ZwZ2-9Bのスコアが悪かったからではなく、そのチェックポイントには波形を処理できるものが何もないからだ。

ドキュメントは2番目であり、そして複利的に効いてくるものです。Gemma 4 12Bには技術レポート（arXiv 2607.02770）、GPQA形式の推論から視覚ベンチマークまでを網羅する公開評価セット、明記されたライセンス、そしてモデルが5つのサイズで提供されているためファミリーから離れることなく能力とフットプリントをトレードオフできるという注記が付属しています。その周辺では、Hubに83の公開済みファインチューニング、49の量子化、15のSpacesが構築されていることが示されています。そのエコシステムは飾りではありません。それは、Google以外の人々によって生み出された、モデルがどのように失敗するかについての証拠の集積であり、それに代わるものはありません。

ライセンスは3番目であり、最も地味で、最も決定的だ。Gemma 4 12BはApache-2.0。ZwZ2-9Bはライセンスを一切宣言していない——オープンでもなく、カスタムでもなく、リポジトリのメタデータには何もない。宣言がなければ、安全な解釈は公開者がその権利を留保しているということであり、それは調達の途中で自分が間違っていたと気づきたくない類の問題だ。法的に使用できないチェックポイントは、使用できるものより安いわけではない。

ZwZ2-9Bが構造的な論拠を持つ唯一の箇所

それは品質にあるのではない。品質はまだ誰にも測定できない。それは、そのものがどのようにコンピュートを消費するかにある。そして、その設定はそれについて異例なほど明示的だ。

ZwZ2-9Bの層の4分の3、すなわち32層中24層は線形アテンションであり、各層は会話とともに増大するキー・バリューキャッシュではなく、固定サイズの再帰状態を保持している。設定はその仕組みを明示している。次元128のキーヘッド16個とバリューヘッド32個、幅4の畳み込みカーネル、数値安定性のためにfloat32で保持される状態である。完全アテンションを行うのは4層ごとに1層だけだ。Gemma 4 12Bは異なる仕組みで同様の賭けに出ている。48層中40層が1,024トークンに上限を設けたスライディングウィンドウを使っており、そのため両モデルとも、ほとんどの層で完全アテンションのコストを支払わずに済むように設計されている。両者は程度と手法が異なり、ベンチマークがなければどちらが勝るかを誠実に述べる方法はない。設計意図は読み取れるが、結果は測定されていない。

フットプリントは単純明快な部分だ。パラメータ数は94.1億対119.5億で、量子化を一切行う前に保持する重みがおよそ5分の1少なく、ビジョンタワーも小さい — 隠れサイズ1,152の27層が4,096に射影する — ため、このモデルはGemma 4 12Bを動かすのと同じクラスのハードウェアに余裕で収まる。

The behavioural difference worth knowing is the reasoning default. ZwZ2-9B's chat template emits an empty <think></think> block unless you explicitly ask for thinking, so it answers directly out of the box. Gemma 4 12B offers thinking modes you configure. For extraction, classification or routing — the jobs where a second pass of reasoning is latency you did not want to pay for — only one of these is cheap by default.

ZwZ2-9Bがあなたに伝えられないこと、そしてそれがこの比較を決める理由

それが instruction チューニング済みのモデルなのか、ベースチェックポイントなのかは分かりません。というのも、そのリポジトリには README も pipeline タグもなく、通常ならどちらもその旨を明示しているはずだからです。<answer> タグを指し示す焼き込み済みのシステムプロンプトは、学習済みの instruction モデルであることの強い証拠ですが、それは証拠であって、明言ではないのです。

それが何で訓練されたのか、ZwZファミリーの名を高めたあの細粒度知覚のレシピが引き継がれているのか、そもそも何が得意なのかは分からない。そのライセンスも分からない。そして、端での挙動も分からない。なぜなら、inclusionAI の外部で誰もそれを動かしたことがないからだ。

それをGemma 4 12Bの隣に置いてみると、この非対称性は程度の問題ではない。一方のモデルは技術レポートと8か月にわたる公開利用の実績を携えて登場し、もう一方はconfig.jsonと、反転したthinkingデフォルト設定を携えて登場する。それは切り捨てる理由ではなくプロトタイプを作る理由である——ドキュメント化されていないチェックポイントは、多くの興味深い取り組みが最初に姿を現す場所なのだ——ただし、評価を自分自身で行うことになるという現実に正直であるべき理由ではある。

欠落した証拠に依存しない決定ルール

次のいずれかに当てはまるなら、Gemma 4 12Bを選ぼう：音声入力が必要、弁護士に見せられるライセンスが必要、四半期以内に出荷する必要がある、あるいは同じ評価スイートがファミリー内を上下に転用できるよう兄弟サイズが必要。この4点はすべて決着済みだ。

ZwZ2-9Bを本気で検討すべきなのは、既定で推論を行わない9.4Bのハイブリッドアテンション視覚モデルが、すでに料金を支払っているモデルよりもよく答えられるかもしれない具体的な質問があり、自分で測定する用意がある場合だ。最初に試すべきなのは、その知能ではない。実際に送る画像を受け入れ、実際に必要な形式で返し、しかも結果にライセンス問題がつきまとわないで、そうできるかどうかだ。

そして、それらをベンチマーク表で比較してはいけない。その表には1列しかないのだから。Gemma 4 12Bの公表された数値を空欄の隣に置いて、それを比較と呼ぶことはできるかもしれないが、その空欄こそが知見なのだ。今週ZwZ2-9Bについて直接対決の品質判定を示している者は、それをでっち上げている。

どちらのチェックポイントも現在当社のカタログには含まれていないため、今すぐ当社経由で呼び出せるものではありません。Gemma 4 12B は Hugging Face からのダウンロードとご自身のサービングスタックで動かすもので、ZwZ2-9B も同様です。当社が提供しているのは、評価のやり方を一切変えることなく Gemma の比較を実行可能にする同ファミリーのモデルです：Gemma 4 26B A4B。これは同じファミリーの Mixture-of-Experts モデルで、ホスト型エンドポイント上で 100 万入力トークンあたり $0.06、100 万出力トークンあたり $0.33、同じ 262K トークンのコンテキストを備えています。OrcaRouter はプロバイダーの定価を 0% のマークアップでそのまま通しているため、プロバイダー側の価格変更は次のカタログ更新時ではなくその日のうちにここへ反映されます — これは、自前でホストするモデルとレンタルするモデルのコスト比較を行っている場合に重要です。比較のもう一方の側では、ZwZ2-9B が目指しているものに最も近いホスト型の代替はqwen/qwen3-vl-8b-instructです。131K コンテキストを持つ 8B の視覚言語モデルで、$0.18 と $0.70 の価格、ドキュメントとライセンスが整っており、今すぐ利用可能です。

何がこの記事を変えるのか

モデルカード。具体的には、ライセンス、学習データに関する段落、そしてそのモデルを学習させていない誰かによって作成された評価表が1つ。それまでは、ZwZ2-9B 対 Gemma 4 12B についての正直な要約は、どちらかがより優れているということではない。一方は製品として存在し、もう一方はファイル一覧として存在するということであり、その二つの間の隔たりこそ、機械学習において最も高くつく距離なのだ。

このような比較は、失敗モードが表面化する場でもあります。このクラスのモデルの背後にある、記録されたAIインシデントやエージェントの障害は、OrcaRouter AI Incident Archiveにまとめられており、各エントリには独自の情報源、重大度、信頼度グレード、異議フラグが付いています。