ZwZ2-9B still und leise ausgeliefert: Was 9,4 Milliarden Gewichte dir verraten, wenn das Labor schweigt

Um 03:42 UTC am 16. Oktober 2026 erschien ein Hugging-Face-Repository unter dem Namen inclusionAI/ZwZ2-9B. Vier Minuten später erhielt es seinen einzigen Commit – „ZwZ2-9B-Modellgewichte hinzufügen“ – und dann nichts mehr. Es gibt keine README, kein Lizenzfeld, keinen Paper-Link, keine Benchmark-Tabelle und keinen Eintrag in einer der zehn öffentlichen Sammlungen, die die inclusionAI-Organisation pflegt. Die Gewichte selbst umfassen 9.409.813.744 Parameter in bfloat16 und beschreiben ein Vision-Language-Modell mit Hybrid-Attention, dessen Konfiguration Zeile für Zeile der Konfiguration von Qwen3.5-9B mit einem entfernten Prediction Head. Das ist alles, was bestätigt ist. Alles andere in diesem Artikel ist als Schlussfolgerung gekennzeichnet, weil ein Repository ohne Modellkarte niemanden zu mehr berechtigt.

Das ist übrigens normal und es lohnt sich, es zu sagen, bevor sich die Vorbehalte häufen. inclusionAI ist das Open-Weights-Labor hinter den Familien Ling, Ring, LLaDA und Ming und hat die Angewohnheit, Checkpoints Tage oder Wochen früher zu veröffentlichen, bevor irgendeine Prosa auftaucht. Am 13. Oktober – drei Tage zuvor – veröffentlichte es Ling-3.1-flash mit einer kurzen Modellkarte und ebenfalls ohne Ankündigung. Ein stilles Repository ist kein Warnsignal. Es ist ein Grund, die Dateien statt das Marketing zu lesen.

Was ist eigentlich im Repository?

Acht Dateien, und die Liste erzählt die Geschichte. Es gibt eine .gitattributes, eine chat_template.jinja, eine config.json, eine generation_config.json, eine einzelne 18,8 GB große model.safetensors, eine processor_config.json, eine tokenizer.json und eine tokenizer_config.json. Es gibt keine README.md. Es gibt keine LICENSE. Das Repository trägt genau drei Tags — safetensors, qwen3_5 und region:us — was bedeutet, dass der Hub überhaupt keinen Pipeline-Tag dafür hat: Es ist nicht als Bild-Text-zu-Text, Textgenerierung oder irgendetwas anderes klassifiziert. Zum Zeitpunkt des Verfassens zeigt es null Downloads und zwei Likes.

• Gesamtparameter — 9.409.813.744 verteilt auf 760 Tensoren, bfloat16.

• Architektur — Qwen3_5ForConditionalGeneration, Modelltyp qwen3_5.

• Text-Stack — 32 Schichten, Hidden Size 4.096, 16 Query-Heads gegenüber 4 KV-Heads, Head-Dimension 256, Intermediate Size 12.288, Vokabular 248.320.

• Attention-Muster — drei Linear-Attention-Schichten, dann eine Full-Attention-Schicht, und das wiederholt sich: 24 lineare Schichten und 8 Full-Attention-Schichten.

• Kontext — 262.144 Positionen, Rotationsbasis 10.000.000, verschachteltes M-RoPE mit Abschnitt [11, 11, 10].

• Vision-Tower — Tiefe 27, Hidden-Size 1.152, Patch-Größe 16, räumliche Zusammenführung 2, zeitlicher Patch 2, Projektion auf 4.096.

• Lizenz — keine angegeben. Nicht apache-2.0, keine benutzerdefinierte Lizenz, nichts.

Die Konfiguration ist eine Qwen3.5-9B-Konfiguration

Vergleiche die beiden config.json-Dateien und nahezu jeder architektonische Wert stimmt überein. Hidden Size, Layer-Anzahl, Head-Anzahlen, Head-Dimension, Intermediate Size, Vokabular, der 3:1-Zeitplan von linearer zu voller Attention, der M-RoPE-Abschnitt, die Rotary-Basis, die Obergrenze von 262.144 Positionen und der gesamte Vision Tower bis hinunter zu seinen 2.304 Position Embeddings sind identisch mit Qwen3.5-9B. Der wesentliche Unterschied ist eine Zeile: mtp_num_hidden_layers ist in Qwen3.5-9B 1 und hier 0, daher trägt ZwZ2-9B keinen Multi-Token-Prediction-Head. Der Rest des Diffs ist Serialisierung — eine neuere transformers-Version, die Felder ausschreibt, die die ältere Datei implizit gelassen hat, und der umbenannte Modelltyp der Vision-Konfiguration von qwen3_5 in qwen3_5_vision.

Was das verrät, ist eng begrenzt, aber real: Das ist keine neue Architektur. Es ist ein Checkpoint auf dem Qwen3.5-9B-Stack, von jemandem nachtrainiert, wobei der Kopf für spekulatives Dekodieren entfernt wurde. Was es nicht verrät, ist, worin dieses Nachtraining bestand. Die Parameter haben sich verändert; die Form nicht.

Die einzige Stelle, an der das Modell tatsächlich etwas über sich selbst sagt

Das Chat-Template ist die einzige Datei hier mit einer eigenen Sichtweise, und es weicht in drei Punkten von Qwen3.5-9B ab, die ein Leser in etwa einer Minute überprüfen kann.

Das erste ist ein Standard-System-Prompt. Wenn eine Anfrage ohne Systemnachricht eintrifft, fügt die Vorlage von ZwZ2-9B eine ein: „Eine Konversation zwischen Benutzer und Assistent. Der Benutzer stellt eine Frage, und der Assistent löst sie… Die Antwort ist in <answer> </answer>-Tags eingeschlossen.“ Die Vorlage von Qwen3.5-9B hat keinen solchen Zweig – sie gibt einfach nichts aus. Ein fest eingebauter System-Prompt, der ein Ausgabeformat nennt, ist die Signatur eines bestimmten Trainingslaufs, nicht die eines Basismodells.

The second is the thinking default, and it is inverted. In Qwen3.5-9B the template emits an empty <think></think> block only when the caller explicitly passes enable_thinking: false, which means reasoning is on unless you turn it off. In ZwZ2-9B the condition is not defined or false — the empty block appears by default and the open <think> tag only when a caller explicitly asks for thinking. Same tags, opposite default. Qwen3.8-27B, for the record, kept the Qwen3.5 behaviour, so this is not simply inherited from a newer generation.

Das dritte ist die Buchhaltung für Multi-Turn-Reasoning: Das Template versteht ein preserve_thinking-Flag und weiß, wie man einen <think>-Block aus einem Assistant-Turn entfernt, der bereits einen enthält. Keines von beiden existiert im Qwen3.5-9B-Template. Der Tokenizer reserviert übrigens weiterhin die speziellen Audio-Tokens — <|audio_start|>, <|audio_end|>, <|audio_pad|> —, aber es gibt nirgendwo in der Config einen Audio-Tower, also betrachten Sie das als gemeinsames Tokenizer-Vokabular und nicht als eine Fähigkeit.

Was der Name impliziert – und was nicht.

„ZwZ2“ liest sich wie eine zweite Generation von etwas, und es gibt eine erste Generation, auf die man verweisen kann. ZwZ-2B, veröffentlicht am 4. März 2026, ist ein Fine-Tune von Qwen3-VL-2B-Instruct, trainiert mit Region-to-Image Distillation plus Reinforcement Learning, veröffentlicht zusammen mit dem Paper Zooming without Zooming (arXiv 2602.11858) und dem ZoomBench-Evaluierungsset. Es ist Apache-2.0, es hat eine vollständige Modellkarte, und es hat 159 Downloads in sieben Monaten.

Der Hinweis auf die Abstammung ist jedoch dünner, als der Name vermuten lässt. ZwZ-2B basiert auf der qwen3_vl-Architektur. ZwZ2-9B basiert auf qwen3_5. Das einzige Tag, das inclusionAI vergeben hat, ist qwen3_5, und das Modell befindet sich weder in der ZwZ-Sammlung noch in einer anderen. Ob das Region-zu-Bild-Rezept übernommen wurde, ist genau die Art von Frage, die eine Modellkarte beantworten würde und dieses Repository nicht.

Eine Falle, die es wert ist, erwähnt zu werden, weil Suchmaschinen die Leute hineinführen werden: Es gibt eine ältere, nicht verwandte ZwZ_32B-Familie von GGUF-Konvertierungen vom März 2025, von einem Drittanbieter. Sie teilt drei Buchstaben und sonst nichts. Lies sie nicht als eine frühere ZwZ2-9B.

Wie man einen nicht dokumentierten Checkpoint behandelt

Die praktische Haltung ist dieselbe, die du bei allen Gewichten einnehmen würdest, die ohne Model Card eintreffen. Ziehe zuerst die Konfiguration und den Safetensors-Header – das ist günstig und überprüfbar. Bestätige, dass die Parameteranzahl und die Tensor-Namen mit dem übereinstimmen, was die Konfiguration verspricht. Dann serviere es mit einem Framework, das die Architektur unterstützt, und führe die Evaluierungen durch, die du bereits auf deinem eigenen Traffic ausführst, anstatt Zahlen zu übernehmen, die nicht existieren.

Die Lizenz ist der Teil, der für alles zählt, was über ein Wochenende hinausgeht. Ein Checkpoint ohne Lizenzfeld ist nicht dasselbe wie ein offener; ohne eine Erklärung gilt standardmäßig, dass der Herausgeber Rechte vorbehalten hat, und darüber sollte man sprechen, bevor das in die Nähe der Produktion kommt, nicht danach. Beachten Sie außerdem, dass Sie es selbst betreiben werden – der Hub meldet, dass das Modell von keinem Anbieter bereitgestellt wird, und der Hersteller hat keinen Endpunkt veröffentlicht.

Genau dafür gibt es automatisches Failover. Wenn Sie einen unerprobten Checkpoint gegen den Platzhirsch messen wollen, ohne einen Produktionspfad darauf zu verwetten, stellen Sie den Kandidaten hinter dieselbe Schnittstelle wie die Modelle, denen Sie bereits vertrauen, und lassen Sie den Verkehr dorthin zurückwandern, wenn sich das neue Modell danebenbenimmt – ein API-Schlüssel und ein OpenAI-kompatibler Endpunkt statt einer zweiten Integration, die Sie wieder abbauen müssen. OrcaRouter leitet über 200 Modelle auf diese Weise weiter, gibt die Listenpreise der Anbieter mit 0 % Aufschlag weiterund hostet ZwZ2-9B nicht – wir werden nicht so tun, als gäbe es dafür einen Katalogeintrag. Was wir heute anbieten können, ist die Familie, auf der es aufbaut, und die Familie, die es ersetzt: Die Qwen3.5-Reihe ist hier routbar, einschließlich qwen/qwen3.5-35b-a3b und qwen/qwen3.5-flash, und qwen/qwen3-vl-8b-instruct deckt den 8B-Vision-Slot mit einem dokumentierten, gehosteten Modell zu 0,18 $ pro Million Eingabe-Tokens und 0,70 $ pro Million Ausgabe-Tokens ab.

Was würde daraus ein Release machen?

Drei Dinge – und jedes davon würde eine Neufassung dieses Textes rechtfertigen. Ein Lizenzfeld, das im Repository auftaucht und es von einer Kuriosität in etwas verwandelt, das ein Unternehmen nutzen kann. Eine Modellkarte mit Evaluierungszahlen, die es von einer Architektur in eine Behauptung verwandelt. Oder ein Paper – die wahrscheinlichste Form wäre die Region-zu-Bild-Arbeit, die das erste ZwZ interessant gemacht hat, angewandt auf einen dreimal so großen Vision Tower.

Bis eines davon eintrifft, behandle ZwZ2-9B so, wie es die Dateiauflistung beschreibt: ein Qwen3.5-9B-Derivat mit 9,4 Milliarden Parametern und einer angepassten Chat-Vorlage, veröffentlicht von einem Labor, das noch niemandem gesagt hat, warum. Die Gewichte sind echt. Die Geschichte ist noch nicht geschrieben, und die ehrliche Position ist, dass niemand außerhalb von inclusionAI sie schreiben kann.

Nichts davon ist hypothetisch: Die dokumentierten KI-Ausfälle und Agent-Vorfälle, die hinter Releases wie diesem stehen, finden sich im OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seinen Konfidenzgrad und sein Umstritten-Flag führt.