ZwZ2-9B vs MathForm-8B：同じトランク、まったく異なる真実の量

8週間違いで公開された2つのモデル。異なる2つのラボから、同じファミリーの異なる2世代の上に構築され、それでもトランクの幅は同じ。MathForm-8Bは、OpenBMBが2026年8月14日にQwen3-8Bのファインチューンとして公開したもので、36層、隠れサイズ4,096、中間サイズ12,288で動作する。ZwZ2-9Bは、inclusionAIが2026年10月16日にQwen3.5-9Bスタック上で発表したもので、32層、隠れサイズ4,096、中間サイズ12,288で動作する。親世代は違い、語彙は151,936と248,320で、仕事はまったく異なる——それなのにどちらも同じ4,096×12,288というトランクのジオメトリを持つ。両者を分けるのはアーキテクチャではない。片方には論文、データセット、評価ハーネス、ライセンスが付いてきて、もう片方には8つのファイルしか付いてこない、ということだ。

手短に言うと、あなたの問題を「この散文をLean 4に変換する」と説明できるなら、MathForm-8Bは公表された数値を持つ文書化された専門モデルであり、それを使うべきです。あなたの問題がピクセルを扱い、汎用の視覚言語モデルを求めるなら、ZwZ2-9Bは誰も特性評価していない9.4Bのチェックポイントであり、それを採用するということは、その最初の評価者になることを意味します。この比較の興味深い点は、その非対称性が、共有された継承がどれほどの価値を持つかについて何を教えてくれるかです。

一世代違いの二人の子孫

MathForm-8BはQwen3-8Bの派生モデルであり、それを公然と明言している。そのモデルカードには、ベースモデル、訓練データセット、訓練手法、論文が記載されている。構成は教科書通りのQwen3レイアウトだ——36層、ヘッド次元128でクエリヘッド32に対してキーバリューヘッド8、語彙数151,936、位置上限40,960、ロータリーベース1,000,000、そしてすべての層でフルアテンション。奇抜なものはなく、隠されたものもない。

ZwZ2-9Bは、単一のHubタグによってのみそれを示すQwen3.5-9Bの派生モデルです。その設定の解決先はQwen3_5ForConditionalGenerationであり、削除された1つのマルチトークン予測層を除いて、すべてのアーキテクチャ値がQwen3.5-9Bと一致します。248,320トークンの語彙、262,144位置の上限、インターリーブされたM-RoPE、およびビジョンタワーはすべて変更なく継承されています。

• パラメータ — ZwZ2-9B：9,409,813,744。MathForm-8B：そのカードによると80億。

• 親 — Qwen3.5-9B 対 Qwen3-8B。したがって、この2つは異なる Qwen 世代から異なるアテンション設計を継承しています。

• アテンション — 24の線形アテンション層と8のフルアテンション層に対し、全36層でフルアテンション

• トランクの構成 — どちらも隠れ層サイズ4,096、中間サイズ12,288。

• 語彙 — 248,320（内部に画像と動画のトークンIDを含む） 対 151,936（テキストのみ）。

• コンテキスト上限 — 262,144 ポジション 対 40,960。

• モダリティ： — テキスト、画像、動画 vs テキストのみ。

• 公開されたエビデンス — 設定ファイル vs 論文、データセット、評価パイプライン、そして Apache-2.0 の条件。

MathForm-8Bが提供するもの

このカードは異例なほど完全で、後の対比がそれに依存するため、一通り見ていく価値がある。MathForm-8B は自然言語の数学的記述を Lean 4 に翻訳する。それは FormalVerse — OpenBMB が同時に公開したデータセット — で、教師ありファインチューニングとその後の強化学習を通じて訓練され、Lean のコンパイルと意味的一貫性のフィードバックが報酬信号を提供した。論文は MathForm: 知識検索と検証ガイド付き改良による数学的自動形式化のスケーリング、arXiv 2608.14221、そしてリポジトリには評価パイプライン、ベンチマークファイル、Pass@k スクリプトが含まれている。

結果は、2つの別個の基準の下で Pass@8 の合格率として報告されている。すなわち、構文チェック（生成された Lean が実際にコンパイルされること）と、一貫性チェック（コンパイルが通り、かつ元の問題と同じことを述べていること）である。6つのベンチマークにわたり、カードは構文でマクロ平均 88.06、一貫性で 72.37 を報告しており、カードが列挙している他の 8B 自動形式化器を上回り、構文の列では複数の 32B エントリも上回っている。その最後の比較は、繰り返すのではなく検証する価値のある種類の主張であり、それを検証するのを自明でなくする設定上の細部が1つある。コンパイルチェックには稼働中の Kimina Lean Server が必要であり、実験では Lean 4.21.0 が使用された。これは Python スクリプトで採点できるチェックポイントではない。

上のすべての数値はベンダーによる報告です。OpenBMBが評価を実施し、OpenBMBがそれを公開しており、リポジトリにはそれを再現するためのスクリプトも実際に含まれています。これはほとんどのラボが提供している以上のことであり、たとえ未検証であってもこれらの数値に価値がある理由です。カードには推奨の生成設定も掲載されています。temperature 0.6 と top-p 0.95 で、これはカードのないモデルでは自分で推測するしかないような、ちょっとした運用上の細部です。

ZwZ2-9Bが提供するもの

1つのconfig.json、1つのtokenizer_config.json、1つのチャットテンプレート、および18.8 GBの重み。READMEもライセンス欄もパイプラインタグもデータセットもありません。Hubはダウンロード数ゼロ、いいね2件と報告しており、どのinclusionAIコレクションにもこれを含んでいません。

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

そうした情報だけでは、そのモデルが何を得意としているのか、何を学習データとして使ったのか、指示モデルなのか別のものなのか、どのような条件で利用できるのかは分からない。MathForm-8B は最初の画面でこれら4つの問いすべてに答える。ZwZ2-9B はどこにもそのどれも答えていない。

共通の4,096は偶然ではなく、近道でもない

両モデルは幅4,096のトランクと12,288の中間サイズを使っている。そして理由はどちらも同じだ。そのサイズのQwenの世代だからである。Qwen3-8BとQwen3.5-9Bは異なる設計だ——全体を通してフルアテンションか、線形アテンションとフルアテンションの3対1の混合か——しかし両方とも同じ幅で作られている。それが小さなQwenというものだからだ。ファインチューンが親のあらゆる次元を受け継ぐのを目にすることは、ファインチューンが親の性質を丸ごと受け継ぐ——形だけでなく、強みも失敗モードも——という最も明快な証拠だ。MathForm-8Bはどの親から来たかを教えてくれるので、それについて調べに行ける。ZwZ2-9Bはそうではなく、Hubタグだけが唯一の手がかりだ。

実際に必要なのはどれ？

これらは代替品ではなく、重なりはほぼゼロです。MathForm-8B が行うことは一つだけです。自然言語の数学的命題を、コンパイルが通る Lean 4 に変換します。実行中の Lean サーバーの要件を含め、その評価機構全体はそのために構築されています。それがあなたの課題なら、再現可能なツールを備えた、強力で文書化された Apache-2.0 の解答であり、72.37 という一貫性の数値が超えるべき数値です。重要なのは構文ではなく一貫性です。なぜなら、コンパイルは通るものの別の意味を表している形式化は、コンパイル失敗よりも大きな代償を伴うバグだからです。

ZwZ2-9Bは汎用の視覚言語モデルです。自動形式化で評価されたことは一度もなく、Leanトークナイザーに関する考慮事項と言えるものも特になく、以前の研究が細粒度の視覚知覚に関するものだった研究室から公開されています。LeanベンチマークにおけるZwZ2-9Bのスコアを探しに行かないでください。それが存在する理由はありません。

本当の問いは、そもそも特化型と汎用型のどちらが欲しいのかということだ。特化型はその一つの仕事では優れているが、その外では役に立たない。汎用型はあらゆる具体的なタスクにおいて劣るが、入力の形が変わる場合には唯一の選択肢になる。この比較が偏っている理由は、両者の間の8週間や10億のパラメータにあるのではない。一方は特化型に必要なドキュメントとともに公開され、もう一方は誰か他の人の仕事の出発点として公開されたことにある。

両方の機能を1つのパイプラインで使いたい場合は

これら二つのモードが交わる実際のパターンがある。汎用モデルが曖昧な文書を読み、数学的主張を抽出し、それを形式化器に渡し、チェッカーがその結果が成り立つかどうかを判断する。これは異なる役割を持つ3回のモデル呼び出しであり、ルーティング層が安価にするために存在する形だ—— OrcaRouterのルーティングDSLは複数のモデルを単一の呼び出しに構成するので、ファンアウトとフォローアップは、あなたが維持するオーケストレーションサービスではなく1つのリクエストになる。 モデル融合、つまりモデルのパネルが一緒に答え、審査員が最も強い応答を選ぶことは、パイプラインではなく単一の難しい問いに適用された同じ考え方である。

ZwZ2-9B も MathForm-8B も当社のカタログにはありませんし、そこを美化するつもりもありません。MathForm-8B は Apache-2.0 のもとでダウンロード可能で、自前の vLLM や SGLang インスタンスから提供できます。一方、ZwZ2-9B はリポジトリがあるだけで、エンドポイントは一切ありません。そのパイプラインの推論側で現在ルーティング可能なのはqwen/qwen3.8-27b — Qwen の現行世代の dense フラッグシップで、Apache-2.0、262K トークンのコンテキスト、ホスト版の上限は 100 万トークン、入力 100 万トークンあたり $0.33、出力 100 万トークンあたり $2.40、プロバイダーの定価のまま、一切の上乗せなしで提供されます。

非対称性の価値とは何か

MathForm-8Bのほうが書くべきモデルだ。確認すべきことがあるからだ。ZwZ2-9Bのほうがより興味深い成果物だ。チューニングされたチャットテンプレートと削ぎ落とされた予測ヘッドを備えた9.4Bのチェックポイントは、誰かが本気で取り組んだ証拠であり、しかもinclusionAIにはZwZという名前にまつわる実績があるため、次の投稿が注目に値するからだ。

今日、決断を下す人にとって、そのルールは地味だ。公開された論文、データセット、名称が明示されたベースモデル、明記されたライセンスは、書類仕事ではない。それらは、計画を立てられるモデルと、リバースエンジニアリングしなければならないモデルの違いであり、どれほど興味深いアーキテクチャでもその差は埋まらない。

このような結果は、このクラスのモデルの背後にあるAIインシデントやエージェントの失敗がすでに記録されているという事実を思い起こさせるものでもある。それらはOrcaRouter AI Incident Archiveにまとめられており、各項目には独自の情報源、重大度、信頼度評価、異議ありフラグが付されている。