ZwZ2-4B ohne Launch ausgeliefert: Was die Model Card sagt und was sie verschweigt

Das ZwZ2-4B-Repository wurde am 15. Oktober 2026 um 06:11 UTC erstellt und hat Stand heute Morgen null Downloads und null Likes. Das ist für einen Checkpoint, den niemand angekündigt hat, nicht ungewöhnlich. Ungewöhnlich ist, dass er auch eine vollständige Modellkarte enthält: einen Methodenabschnitt, eine Beschreibung der Trainingsdaten, einen Quickstart-Block und ein zentrales Ergebnis, das 25 Benchmarks und eine Verbesserung um 5,38 Punkte gegenüber Qwen3.5-4B, dem Modell, auf dessen Basis er feinabgestimmt wurde, beansprucht. inclusionAI hat die Dokumentation veröffentlicht, ohne die Ankündigung zu veröffentlichen. Die Karte ist da; die Pressemitteilung nicht; und der Unterschied zwischen diesen beiden Dingen ist die ganze Geschichte dieses Checkpoints.

Dieser Text ist bewusst eng gefasst in dem, was er behauptet. Alles im Folgenden, das als Repository-Fakt gekennzeichnet ist, wurde direkt aus den Dateien gelesen — die Konfiguration, der Gewichtsindex, der Datensatzeintrag, die Karte selbst. Alles, was als Anbieterangabe gekennzeichnet ist, ist inclusionAIs eigene Zahl, wiedergegeben als Behauptung und nicht als Ergebnis. Es existiert keine unabhängige Bewertung von ZwZ2-4B, und wer Ihnen etwas anderes erzählt, liest Ihnen nur die Karte vor.

Was tatsächlich umgesetzt wurde, an welchen Daten

Die ZwZ2-Familie kam innerhalb eines Zeitfensters von etwa dreiundzwanzigeinhalb Stunden an, in umgekehrter Größenreihenfolge. ZwZ2-4B kam zuerst, am 15. Oktober um 06:11 UTC. ZwZ2-9B folgte am 16. Oktober um 03:42. ZwZ2-27B schloss die Reihe am selben Morgen um 05:42 ab. Der Trainingsdatensatz inclusionAI/ZwZ2-RL-VQA, erschien drei Tage später am 19. Oktober. Alle drei Repositories, der Datensatz und die Sammlung der Familie tragen Zeitstempel von heute, dem 27. Oktober — der jüngste Wartungsdurchlauf für eine Familie, zu der es noch keine öffentliche Ankündigung gibt.

Was nicht geschah: kein Eintrag in inclusionAIs Blog und kein Release-Thread. Die drei Checkpoints teilen sich zwar eine Sammlung, Zooming-without-Zooming-v2, mit vier Einträgen, aber eine Sammlung ist eher ein Container als eine Ankündigung. Das GitHub-Repository, das den Code der ersten Generation beherbergt, wurde überhaupt nicht aktualisiert – es listet weiterhin vier Modelle auf, ZwZ-2B, ZwZ-4B, ZwZ-7B und ZwZ-8B, die alle auf Qwen3-VL-Backbones basieren. Die v2-Familie ist nicht darin enthalten. Wenn Sie den Code suchen, der ZwZ2-4B hervorgebracht hat, finden Sie den Code seines Vorgängers, und die README dort erwähnt das Modell, das Sie in der Hand halten, nicht.

Die Behauptung, als Behauptung formuliert

In der Karte von inclusionAI wird eine Gesamtgenauigkeit von 49,41 für das Basismodell und 54,79 für ZwZ2-4B angegeben, gemessen über 25 Benchmarks, die in sechs Domänen gruppiert sind. Die Karte gibt an, dass sich das Modell bei jedem dieser Benchmarks verbessert hat und dass die Gesamt- und Domänendurchschnitte jeden Benchmark gleich gewichten. Die sechs genannten Domänen sind feingranulare Wahrnehmung, räumliches Schlussfolgern, Langkontextverständnis, multimodale Agenten und allgemeines visuelles Schlussfolgern sowie die feingranulare Gruppe, die die Schlagzeile trägt.

Diese beiden Zahlen bilden den gesamten quantitativen Beleg für das Modell. Die Scores je Benchmark liegen auf der Seite als Abbildungen vor – eine PNG und eine SVG – statt als Text, was bedeutet, dass die acht repräsentativen Ergebnisse und die vollständigen fünfundzwanzig sichtbar, aber nicht maschinenlesbar sind. Das eine in Prosa beschriebene Benchmark-Set ist MMLongBench*, dessen visueller Kern mit V-RAG, Image MM-NIAH und VH-Multi über 25 Nicht-Zählaufgaben angegeben ist. Die Modellkarte merkt außerdem an, dass die Bildauflösung für „fortgeschrittene Modelle“ durch die Serving-Plattform eingeschränkt wird, was ein berechtigter Vorbehalt ist und zugleich daran erinnert, dass ein Wahrnehmungs-Score zum Teil eine Aussage darüber ist, wie das Bild das Modell erreicht hat.

Ein Durchschnitt von +5,38 über 25 Benchmarks ist für ein Modell der 4B-Klasse eine große Behauptung. Es ist außerdem genau die Art von Behauptung, die ein Anbieter am besten aufstellen und am schlechtesten verifizieren kann, denn der Anbieter hat das Benchmark-Set, die Gewichtung und die Auflösung gewählt. Betrachten Sie 54,79 als die Zahl, die es zu reproduzieren gilt, nicht als die Zahl, gegen die Sie planen sollten.

Die Methode: ein Durchlauf, kein Zoomen, kein SFT

Die Trainingspipeline heißt EvidenceConnect und ist die zweite Generation einer Idee, die das Labor Anfang dieses Jahres unter dem Namen „Zooming without Zooming“ veröffentlicht hat. Die Prämisse ist, dass feinkörnige visuelle Wahrnehmung normalerweise zur Inferenzzeit gelöst wird – den Bereich zuschneiden, die Frage erneut stellen, wiederholen – und dass dies teuer und fragil ist. ZwZ2 bringt dem Modell stattdessen bei, innerhalb eines einzigen Forward Pass auf regionale Evidenz zu achten.

Der Aufbau erfolgt in vier Schritten, wie die Karte ihn beschreibt. Zusammenhängende Regionen werden gruppiert, drei bis sieben pro Bild, entnommen aus SA-1B. Fragen werden anhand privilegierter gezoomter Ansichten dieser Regionen generiert, sodass der Fragenschreiber Details sehen kann, die das Policy-Modell zur Inferenzzeit nie sehen wird. Diese Fragen werden dann zweimal gefiltert – durch modellübergreifende Übereinstimmung und durch einen Drop-one-Region-Test, der prüft, ob das Entfernen einer Region die Antwort tatsächlich verändert. Verifizierte Fragen werden zu Multiple-Choice-Aufgaben mit vier Optionen, und das Modell wird mit GRPO trainiert. Es gibt überhaupt keine Phase des überwachten Feintunings.

Zur Inferenzzeit sieht die Policy das vollständige Bild mit darauf eingezeichneten Umrissen farbiger Regionen. Die privilegierten Bildausschnitte existieren nur während der Datenerstellung. Jede Modellgröße der Familie verwendete ungefähr 20.000 Trainingsbeispiele; die Dataset-Card nennt als genaue Werte 20.662 Multiple-Choice-Fragen, fünf Downloads und ein Erstellungsdatum vom 19. Oktober.

Das Design hat eine sichtbare Konsequenz, die für alle erwähnt werden sollte, die es evaluieren wollen. Ein Modell, das ausschließlich auf Multiple-Choice mit vier Optionen trainiert wurde, wird für eine Aufgabenform optimiert, die ganz anders aussieht als offene Bildbeschreibung oder freie visuelle QA. Wenn Ihre Arbeitslast einen Absatz über ein Bild verlangt, wurde dieser Checkpoint nicht darauf trainiert, und der Abschnitt zu Einschränkungen der Modellkarte sagt genau das: halluzinierte Details, falsch gelesener Text, Zählfehler, räumliche Fehler.

Was die Konfiguration beweist, unabhängig vom Labor

Es gibt eine Kategorie von Fakten, die man nicht einfach glauben muss, weil sie Arithmetik auf veröffentlichten Dateien ist. ZwZ2-4B wiegt 4.539.265.536 Parameter in BF16, gespeichert als eine einzige 9,08 GB große safetensors-Datei. Die Hugging-Face-Seite rundet dies auf „5B“ auf, was großzügig ist; der Index sagt 4,54B. Seine Basis, Qwen3.5-4B, wiegt 4.659.865.088 — der Ableger ist also etwa 120,6 Millionen Parameter kleiner als das Modell, von dem er trainiert wurde.

Für diesen Unterschied gibt es eine saubere Erklärung in der Config. Qwen3.5-4B deklariert eine Multi-Token-Prediction-Schicht; ZwZ2-4B deklariert null. Der Speculative-Decoding-Head wurde entfernt. Entfernt man einen MTP-Head aus einem 4,6B-Checkpoint, landet man fast genau bei der beobachteten Lücke. Dies ist dieselbe Änderung, die auch das 9B-Geschwistermodell trägt, und sie ist der stärkste verfügbare Beleg dafür, dass es sich um nachtrainierte Derivate und nicht um frisch trainierte Modelle handelt.

Der Rest des Stacks ist gegenüber der Basis unverändert:

• Tiefe — 32 Schichten sowohl in ZwZ2-4B als auch in Qwen3.5-4B

Breite — versteckte Größe 2,560, Zwischengröße 9,216

• Attention — 16 Query-Heads gegenüber 4 KV-Heads, Head-Dimension 256, ein 3:1-Zeitplan linear zu voll (24 lineare Schichten, 8 vollständige)

• Vokabular — 248.320 Token, gebundene Embeddings

• Kontext — 262.144 Positionen, M-RoPE in einer 11/11/10-Aufteilung, partieller Rotary-Faktor 0,25

• Vision Tower — 24 Schichten bei Hidden-Größe 1.024, Patch-Größe 16, 2×2 räumliche Zusammenführung

• Laufzeitumgebung — transformers 5.13.1, Architektur-Bezeichner Qwen3_5ForConditionalGeneration

Das Chat-Template ist eine Zeile wert, denn es ändert, wie sich das Modell out of the box verhält. Das veröffentlichte Template läuft im Non-Thinking-Modus und weist das Modell an, seine endgültige Antwort in <answer>-Tags zu setzen. Wenn du es mit einem generischen VLM-Harness lädst, das Freitext erwartet, bekommst du Tags in deiner Ausgabe und fragst dich, warum.

Was die Karte Ihnen nicht verrät

Drei Lücken sind wichtiger als alles, was auf der Karte steht.

Der erste Punkt ist die Lizenz. Das Repository hat keine LICENSE-Datei und kein Lizenz-Tag. Der Wortlaut der Modellkarte selbst verweist auf „die Lizenz, die den veröffentlichten Gewichten beiliegt, und die anwendbare Backbone-Lizenz“ – doch es gibt keine beiliegende Lizenzdatei, auf die verwiesen werden könnte. Der Backbone, Qwen3.5-4B, ist Apache-2.0, daher ist die wahrscheinlichste Lesart, dass das Derivat sie erbt. Wahrscheinlich ist nicht dasselbe wie deklariert, und eine rechtliche Prüfung wird keinen Satz auf der Karte akzeptieren, der auf eine Datei verweist, die nicht existiert.

Beim zweiten handelt es sich um das Paper. Das v2-Verfahren – EvidenceConnect, der Drop-one-Region-Filter, das Training ausschließlich mit GRPO – hat keine öffentliche Ausarbeitung. Der Paper-Link der Karte ist noch immer der wörtliche Platzhalter PAPER_URL. Die einzige arXiv-Kennung, die mit dem Repository verknüpft ist, 2602.11858, gehört zum Paper der ersten Generation, das die Region-zu-Bild-Destillation auf Qwen3-VL-Backbones beschreibt: ein anderes Verfahren, eine andere Basis-Familie und eine andere Zahlenmenge. Die Dataset-Card übernimmt dieselbe Kennung, sodass das Tag die Diskrepanz weiterträgt.

Der dritte Punkt ist das Fehlen jeglicher unabhängiger Messung. Keine Bestenliste hat ZwZ2-4B bewertet, es existiert keine Replikation, und der Downloadzähler hat sich nicht von null bewegt. Ein Modell kann gleichzeitig exzellent und ungemessen sein; der Punkt ist nur, dass nichts außerhalb des Labors bislang die 54.79 bestätigt hat.

Die Namensfalle, in die Sie geraten werden

Wenn Sie nach diesem Modell suchen, finden Sie zuerst ein anderes. Die erste Generation ZwZ-4B ist ein echter, dokumentierter Checkpoint auf Basis von Qwen3-VL-4B und veröffentlicht einen Durchschnitt von 66,86 gegenüber 61,52 für sein Backbone, mit einem ZoomBench-Wert von 55,74. Diese Zahlen werden weithin zitiert, und es sind nicht die Zahlen von ZwZ2-4B. Sie gehören zu einem anderen Basismodell, einem anderen Trainingsrezept und einer anderen Benchmark-Suite.

Die beiden Namen unterscheiden sich um ein einziges Zeichen. Eine Vergleichstabelle, die sie vermischt, wirkt in sich konsistent und ist falsch. Wenn eine Anbieterseite oder ein Aggregator ZwZ2-4B mit 66.86 anzeigt, dann ist das der Fehler, den Sie sich gerade ansehen.

Wenn Sie diese Woche ein kleines Vision-Modell benötigen

ZwZ2-4B ist nicht im Katalog von OrcaRouter, und dieser Artikel wird nicht so tun, als wäre es anders. Es ist ein Checkpoint, den man selbst herunterlädt und selbst bereitstellt; die Hugging-Face-Seite bestätigt nirgendwo einen gehosteten Endpunkt dafür, und sie berichtet ausdrücklich, dass kein Inferenzanbieter ihn bereitstellt.

Was der Katalog jedoch zu bieten hat, ist die praktische Alternative für dieselbe Aufgabe: qwen/qwen3-vl-8b-instruct für $0,18 pro Million Eingabe-Tokens und $0,70 pro Million Ausgabe-Tokens, mit einem 131K-Kontext, bereitgestellt über denselben OpenAI-kompatiblen Endpoint wie alles andere. Wenn Sie vorhatten, ZwZ2-4B gegen eine gehostete Vision-Baseline zu evaluieren, dann ist das die Baseline, und beide über einen Schlüssel laufen zu lassen bedeutet eine Client-Bibliothek und eine Rechnung statt zwei Integrationen. OrcaRouter routet über 200 Modelle mit automatischem Failover, sodass ein auf diesem Endpoint aufgebauter Vision-Pfad nicht davon abhängt, dass ein einzelner Upstream gesund bleibt.

Für ein Modell ohne Downloads und ohne Lizenzdatei ist das die ehrliche Empfehlung: den Vergleich mieten, das Experiment selbst besitzen.

Was würde diese Einschätzung ändern?

Drei Ereignisse, in absteigender Reihenfolge ihrer Bedeutung. Eine Lizenzdatei, die aus einem rechtlichen Unbekannten eine rechtliche Antwort machen würde. Ein öffentliches v2-Papier, das es jemandem ermöglichen würde, die EvidenceConnect-Filterung auf Leckage zu prüfen – der Drop-one-Region-Test ist eine gute Idee, und gute Ideen sind genau das, was auditiert werden muss. Und überhaupt irgendein Drittanbieter-Score, denn ein einziges reproduzierbares Benchmark auf einem neutralen Harness würde für diesen Checkpoint mehr bewirken als weitere tausend Wörter Model Card.

Bis eines davon eintritt, ist ZwZ2-4B ein gut dokumentierter, nicht angekündigter, nicht gemessener 4,54-B-Wahrnehmungsspezialist, dessen eigene Modellkarte besagt, dass er sein Basismodell um 5,38 Punkte übertrifft. Das ist eine echte und konkrete Behauptung. Es ist noch kein Ergebnis, und dieser Unterschied ist das Einzige, was es wert ist, aus diesem Repository mitzunehmen.