「ZwZ2-4B、ローンチなしで出荷」という見出しが付いた生成タイトルカード。上部の小見出しは「予告なしのリリースへの反応」、サブタイトルは「完全なモデルカード、25件のベンチマーク主張、ダウンロード数ゼロ」、4つの角丸チップには「4.54Bパラメータ」「ダウンロード0」「ライセンスファイルなし」「ベンダー報告 +5.38」と表示されている。フッターには「数値はHugging Faceリポジトリから取得、2026年10月27日。」とある。OrcaRouterのロゴはアートワーク下の白い帯に合成されている。
Guides & Insights

ZwZ2-4B、ローンチなしでリリース:モデルカードが示すことと示さないこと

著者

Alistair Wren

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

そのZwZ2-4Bリポジトリは2026年10月15日06:11 UTCに作成され、今朝時点でダウンロード数もいいね数もゼロです。これは誰も発表していないチェックポイントとしては珍しいことではありません。珍しいのは、完全なモデルカードも備えている点です。それにはメソッドセクション、学習データの説明、クイックスタートブロック、そして25のベンチマークと5.38ポイントの改善を主張する主要結果が含まれます。比較対象はQwen3.5-4Bで、ファインチューニング元のモデルです。inclusionAIは発表を行わずにドキュメントを公開しました。カードはあり、プレスリリースはありません。そして、その二つの違いこそがこのチェックポイントの物語のすべてです。

この文章は、何を主張するかについて意図的に範囲を狭くしている。以下でリポジトリ上の事実と記したものはすべて、ファイルから直接読んだ内容である——設定、重みインデックス、データセットエントリ、モデルカード自体。ベンダー主張と記したものはすべて、inclusionAI 自身の数値であり、結果ではなく主張としてそのまま再掲している。ZwZ2-4B について独立した評価は存在せず、そうでないと言う人は、モデルカードをそのまま読み返しているだけだ。

実際に何が、どの日に到着したのか

ZwZ2ファミリーは約23時間半の間に、サイズの逆順で登場した。最初に来たのはZwZ2-4Bで、10月15日06:11 UTCだった。ZwZ2-9Bが続いて10月16日03:42に登場した。ZwZ2-27Bが同日朝の05:42にこの一群を締めくくった。学習データセットinclusionAI/ZwZ2-RL-VQAは、3日後の10月19日に現れた。3つのリポジトリ、データセット、そしてファミリーコレクションはいずれも本日10月27日のタイムスタンプを持っている — まだ公表アナウンスが一切添えられていないファミリーに対する、最新のメンテナンス実施である。

起きなかったこと:inclusionAIのブログにエントリはなく、リリーススレッドも立っていない。3つのチェックポイントがコレクションを共有しているのは確かだ。そのコレクションはZooming-without-Zooming-v2で、4項目が揃っているが、コレクションは発表ではなく入れ物にすぎない。第一世代のコードをホストするGitHubリポジトリはまったく更新されておらず、依然として4つのモデル、ZwZ-2B、ZwZ-4B、ZwZ-7B、ZwZ-8Bを一覧に挙げており、いずれもQwen3-VLバックボーン上に構築されている。v2ファミリーはそこに含まれていない。ZwZ2-4Bを生み出したコードを探そうとすると、前身のコードが見つかるだけで、そのREADMEにはあなたが手にしているモデルについての言及はない。

A screenshot of the Hugging Face model page for inclusionAI/ZwZ2-4B showing 0 likes, tags for Image-Text-to-Text, qwen3_5, zwz2 and arxiv:2602.11858, a Downloads last month figure shown as a dash, a model size of 5B params in BF16, the notice 'This model isn't deployed by any Inference Provider', a model tree running from Qwen3.5-4B-Base through Qwen3.5-4B to this checkpoint, the training dataset inclusionAI/ZwZ2-RL-VQA at 20.7k with 5 downloads, the collection Zooming-without-Zooming-v2 with 4 items, and card text reporting overall accuracy rising from 49.41 to 54.79.

主張として述べられた、その主張

inclusionAIのモデルカードは、ベースモデルの総合精度が49.41、ZwZ2-4Bが54.79だと報告している。これは、6つのドメインに分類された25のベンチマークで測定されたものだ。モデルカードによると、モデルはそれらすべてのベンチマークで改善しており、総合平均とドメイン平均では各ベンチマークが均等に重み付けされている。挙げられている6つのドメインは、細粒度知覚、空間推論、長文脈理解、マルチモーダルエージェント、一般的な視覚推論、そして見出しの数値を担う細粒度グループである。

その2つの数値が、このモデルに関する定量的根拠のすべてです。ベンチマークごとのスコアは、ページ上ではテキストではなく図——PNGとSVG——として存在しているため、8件の代表的な結果と全25件は目視できますが、機械可読ではありません。散文で説明されている唯一のベンチマークセットはMMLongBench*で、その視覚的核はV-RAG、Image MM-NIAH、VH-Multiとして、Counting以外の25タスクにわたって記載されています。カードには、「先進モデル」の画像解像度が提供プラットフォームによって制約されることも記されています。これは妥当な注意書きであり、同時に、知覚スコアが画像がどのようにモデルに届いたかについての記述でもあるという注意喚起でもあります。

25個のベンチマークでの平均+5.38は、4Bクラスのモデルにとって大きな主張だ。またこれはまさに、ベンダーが最も主張しやすく、最も検証しにくい種類の主張でもある。なぜなら、ベンチマークのセット、重み付け、解像度を選んだのはベンダー自身だからだ。54.79は再現すべき数値として扱い、それをもとに計画を立てる数値としては扱わないこと。

手法:1回のパス、ズーミングなし、SFTなし

訓練パイプラインはEvidenceConnectと呼ばれ、これは研究室が今年初めに「Zooming without Zooming」という名で発表したアイデアの第2世代です。その前提は、細粒度の視覚知覚は通常推論時に解決される——領域を切り取り、質問をやり直し、繰り返す——ものであり、これが高コストで脆いというものです。ZwZ2は代わりに、単一のフォワードパス内で領域的な証拠に注意を向けるようモデルに教えます。

構築は、カードに記述されているとおり4つのステップで進みます。関連する領域はグループ化され、画像ごとに3~7個で、SA-1Bから抽出されます。質問は、それらの領域の特権的なズーム表示に基づいて生成されるため、質問作成者は、推論時にポリシーモデルが決して見ることのない詳細を確認できます。その後、これらの質問は2回フィルタリングされます。1回目はモデル間の一致によるもの、2回目は領域を1つ削除することで実際に回答が変わるかどうかを確認するdrop-one-regionテストによるものです。検証済みの質問は4択の多肢選択タスクになり、モデルはGRPOでトレーニングされます。教師ありファインチューニングの段階は一切ありません。

推論時、ポリシーは色付きの領域輪郭が描かれた画像全体を見る。特権クロップはデータ構築中にのみ存在する。ファミリー内の各モデルサイズは約20,000件の訓練例を使用しており、データセットカードには正確な数字として20,662問の多肢選択問題、5回のダウンロード、作成日10月19日が記載されている。

この設計には、評価を計画している人なら誰でも注意すべき、無視できない帰結が一つある。四択問題だけで訓練されたモデルは、自由記述のキャプション生成や自由形式の視覚的QAとは似ても似つかないタスク形状に最適化されている。画像についての一段落を求めるワークロードであれば、このチェックポイントはそのために訓練されていない。モデルカードの制限事項のセクションにもそう明記されている。幻覚的な詳細、テキストの読み間違い、数え間違い、空間的な誤りである。

実験室とは独立して、その構成が証明するもの

鵜呑みにしなくてよい種類の事実がある。なぜならそれは、公開ファイルに対する算術だからだ。ZwZ2-4B は BF16 で 4,539,265,536 個のパラメータの重みを持ち、単一の 9.08 GB safetensors ファイルとして保存されている。Hugging Face のページではこれを「5B」に丸めているが、これはかなり寛大な丸め方だ。インデックスでは 4.54B とされている。そのベースである Qwen3.5-4B は 4,659,865,088 個のパラメータを持つので、派生モデルはパラメータが約1億2,060万個少ない学習元のモデルより

その差分には設定上、明快な説明があります。Qwen3.5-4B はマルチトークン予測層を1層と宣言しており、ZwZ2-4B は0層と宣言しています。投機的デコーディングヘッドは削除されています。4.6B のチェックポイントから MTP ヘッドを外すと、観測された差分にほぼ正確に一致します。これは 9B の兄弟モデルにも施されているのと同じ編集であり、これらが新規に学習されたモデルではなく事後学習された派生モデルであることを示す、利用可能な最強の証拠です。

スタックの残りの部分はベースから変更されていません:

• 深さ — ZwZ2-4B と Qwen3.5-4B の両方で32層

• 幅 — 隠れサイズ 2,560、中間 9,216

• アテンション — 16個のクエリヘッド対4個のKVヘッド、ヘッド次元256、リニア層対フル層の3:1スケジュール(24個のリニア層、8個のフル層)

• 語彙 — 248,320トークン、共有埋め込み

• コンテキスト — 262,144 ポジション、11/11/10 分割の M-RoPE、部分ロータリー係数 0.25

• ビジョンタワー — 隠れ次元1,024で24層、パッチサイズ16、2×2空間マージ

• ランタイム — transformers 5.13.1、アーキテクチャ識別子 Qwen3_5ForConditionalGeneration

A generated single-column scoreboard card titled 'ZwZ2-4B - the scoreboard' with six rows: Parameters 4.54B, Layers 32, Hidden size 2,560, Context 262,144, Vision tower 24 x 1,024 and Licence none declared. The footer reads 'Config figures read from the published repository; benchmark gains are vendor-reported.' The OrcaRouter logo is composited in the white strip below the artwork.

チャットテンプレートは、モデルのデフォルトの挙動を変えるため、一行だけでも触れる価値があります。公開されているテンプレートは非思考モードで動作し、モデルに最終回答を<answer>タグ内に入れるよう指示します。これを、自由なテキストを前提とする汎用のVLMハーネスで読み込むと、出力にタグが現れて、なぜだろうと不思議に思うでしょう。

カードが教えてくれないこと

カードに書かれているどんなことよりも、3つのギャップの方が重要だ。

最初はライセンスです。リポジトリには LICENSE ファイルもライセンスタグもありません。カード自体の文言は「公開された重みに付随するライセンスおよび該当するバックボーンライセンス」に委ねていますが、委ねる先となる付随ライセンスファイルが存在しません。バックボーンである Qwen3.5-4B は Apache-2.0 なので、最も可能性の高い解釈は、派生モデルがそれを継承するというものです。「可能性が高い」は「宣言されている」と同じではなく、法務レビューは存在しないファイルを指すカードの一文を受け入れません。

2つ目は論文です。v2手法——EvidenceConnect、drop-one-regionフィルター、GRPOのみの訓練——には公開された記述がありません。カードの論文リンクは依然として文字通りのプレースホルダーPAPER_URLです。リポジトリに付与されている唯一のarXiv識別子2602.11858は第一世代の論文であり、Qwen3-VLバックボーン上でのregion-to-image蒸留を記述しています。異なる手法、異なるベースファミリー、異なる数値群です。データセットカードは同じ識別子を継承しているため、そのタグが不一致を伝播させます。

第三は、独立した測定がまったく存在しないことです。ZwZ2-4Bを採点したリーダーボードはなく、再現も存在せず、ダウンロードカウンターはゼロから動いていません。モデルは同時に優秀でありながら未測定でもあり得ます。要点はただ、研究室の外でまだ54.79を確認したものが何もないということだけです。

あなたが陥る命名の罠

このモデルを検索すると、まず別のモデルが見つかります。初世代のZwZ-4Bは、Qwen3-VL-4Bをベースに構築された、実在し文書化されたチェックポイントであり、バックボーンの61.52に対して平均66.86を公表しており、ZoomBenchスコアは55.74です。これらの数値は広く引用されていますが、ZwZ2-4Bの数値ではありません。それらは別のベースモデル、別のトレーニングレシピ、別のベンチマークスイートに属します。

二つの名前は一文字だけ異なります。それらを混同した比較表は、内部的には一貫して見えても誤っています。ベンダーのページやアグリゲーターがZwZ2-4Bを66.86と表示しているなら、それはあなたが見ている誤りです。

今週、小型のビジョンモデルが必要なら

ZwZ2-4BはOrcaRouterのカタログにはなく、この記事はそうでないふりをするつもりはない。これは自分でダウンロードして自分で提供するチェックポイントであり、Hugging Faceのページが認める範囲では、どこにもホスト型エンドポイントは存在せず、ページにはどの推論プロバイダーもこれを提供していないと明記されている。

カタログに実際に用意されているのは、同じ用途に対する実用的な代替手段です:qwen/qwen3-vl-8b-instructは、入力100万トークンあたり$0.18、出力100万トークンあたり$0.70、131Kコンテキストで、ほかと同じOpenAI互換エンドポイント経由で提供されます。ZwZ2-4Bをホスト型ビジョンベースラインと比較評価する予定なら、それがそのベースラインです。両方を1つのキーから実行すれば、2つの統合ではなく、クライアントライブラリも請求書も1つで済みます。OrcaRouterは200以上のモデルをルーティングし、自動フェイルオーバーを備えているため、そのエンドポイント上に構築されたビジョンパスは、単一の上流が正常であり続けることに依存しません。

A screenshot of the OrcaRouter model page for qwen/qwen3-vl-8b-instruct showing a 131K-token context, a 32K maximum output, text, image and video input with text output, an input price of $0.18 per million tokens and an output price of $0.70 per million tokens, a p95 time-to-first-token of 7.00 seconds, a Zero Data Retention badge, the model described as an 8B open-weight small vision-language model, and an OpenAI-compatible Python code sample.

ダウンロード数がゼロでライセンスファイルもないモデルには、それが正直な推奨です。比較は借り、実験は所有する。

何がこの評価を変えるでしょうか

重要度の高い順に、3つの出来事がある。ライセンスファイル――それは法的な未知を法的な答えに変えるだろう。公開されたv2論文――それは誰でもEvidenceConnectのフィルタリングに漏洩がないか確認できるようにするだろう。地域を1つずつ除外するテストは良い考えであり、良い考えこそまさに監査される必要がある。そして、第三者スコアがどんな形であれ――中立的なハーネス上で再現可能なベンチマークが1つあれば、このチェックポイントにとってはモデルカードの千語よりも役立つだろう。

それらのどれかが実現するまでは、ZwZ2-4Bは十分に文書化されていながら未発表・未測定の4.54B知覚特化モデルであり、自身のモデルカードにはベースモデルを5.38ポイント上回ると書かれている。それは本物の、具体的な主張だ。まだ結果ではなく、この区別こそがこのリポジトリから持ち出す価値のある唯一のものだ。