ZwZ2-9B vs. MathForm-8B: Derselbe Stamm, zwei sehr unterschiedliche Mengen an Wahrheit

Zwei Modelle, acht Wochen auseinander veröffentlicht, aus zwei verschiedenen Labors, auf zwei verschiedenen Generationen derselben Familie aufgebaut – und ihre Trunks sind gleich breit. MathForm-8B, von OpenBMB am 14. August 2026 als Fine-Tune von Qwen3-8B veröffentlicht, läuft mit 36 Schichten bei Hidden-Size 4.096 und einer Intermediate-Size von 12.288. ZwZ2-9B, von inclusionAI am 16. Oktober 2026 auf dem Qwen3.5-9B-Stack gepostet, läuft mit 32 Schichten bei Hidden-Size 4.096 und einer Intermediate-Size von 12.288. Elterngenerationen weit auseinander, Vokabulare mit 151.936 und 248.320, vollkommen unterschiedliche Aufgaben – und dieselbe 4.096-mal-12.288-Trunk-Geometrie in beiden. Was sie trennt, ist nicht die Architektur. Es ist, dass eines von ihnen mit einem Paper, einem Datensatz, einem Evaluierungs-Harness und einer Lizenz kommt und das andere mit acht Dateien.

Die Kurzfassung: Wenn Sie Ihr Problem als „diesen Text in Lean 4 verwandeln“ beschreiben können, ist MathForm-8B ein dokumentierter Spezialist mit veröffentlichten Zahlen, und Sie sollten es verwenden. Wenn Ihr Problem Pixel betrifft und Sie ein allgemeines Vision-Sprachmodell wünschen, ist ZwZ2-9B ein 9,4B-Checkpoint, den niemand charakterisiert hat, und ihn zu übernehmen bedeutet, sein erster Evaluator zu werden. Der interessante Teil des Vergleichs ist, was diese Asymmetrie darüber lehrt, wie viel ein gemeinsames Erbe wert ist.

Zwei Nachkommen, eine Generation auseinander

MathForm-8B ist ein Derivat von Qwen3-8B und sagt das offen: Seine Modellkarte verzeichnet das Basismodell, den Trainingsdatensatz, die Trainingsmethode und das Paper. Die Konfiguration ist ein Qwen3-Layout wie aus dem Lehrbuch – 36 Schichten, 32 Query-Heads gegenüber 8 Key-Value-Heads bei einer Head-Dimension von 128, ein Vokabular von 151.936 Tokens, eine Obergrenze von 40.960 Positionen, Rotary-Basis 1.000.000 und vollständige Attention in jeder Schicht. Nichts Exotisches, nichts Verborgenes.

ZwZ2-9B ist ein Qwen3.5-9B-Derivat, das dies nur über ein einzelnes Hub-Tag angibt. Seine Konfiguration läuft auf Qwen3_5ForConditionalGeneration hinaus, und jeder architektonische Wert stimmt mit Qwen3.5-9B überein, mit Ausnahme einer entfernten Multi-Token-Prediction-Schicht. Das Vokabular mit 248.320 Token, die Obergrenze von 262.144 Positionen, das verschachtelte M-RoPE und der Vision-Tower sind alle unverändert übernommen.

• Parameter — ZwZ2-9B: 9.409.813.744. MathForm-8B: 8 Milliarden, laut seiner Karte.

• Elternmodell — Qwen3.5-9B vs. Qwen3-8B, daher erben die beiden unterschiedliche Attention-Designs aus verschiedenen Qwen-Generationen.

• Attention — 24 Linear-Attention-Schichten plus 8 Full-Attention-Schichten gegenüber Full Attention in allen 36 Schichten.

• Trunk-Geometrie — versteckte Größe 4.096 und Zwischengröße 12.288 in beiden.

• Vokabular — 248.320, mit Bild- und Video-Token-IDs darin, gegenüber 151.936 bei reinem Text.

• Kontext-Obergrenze — 262.144 Positionen vs. 40.960.

• Modalitäten in — Text, Bild und Video vs. nur Text.

• Belege veröffentlicht — eine Konfigurationsdatei vs. ein Paper, ein Datensatz, eine Evaluierungspipeline und Apache-2.0-Bedingungen.

Was MathForm-8B auf den Tisch bringt

Die Modellkarte ist ungewöhnlich vollständig, und es lohnt sich, sie durchzugehen, weil der spätere Kontrast davon abhängt. MathForm-8B übersetzt mathematische Aussagen in natürlicher Sprache in Lean 4. Es wurde auf FormalVerse trainiert – einem Datensatz, den OpenBMB parallel dazu veröffentlicht hat –, durch überwachtes Feintuning und anschließendes Reinforcement Learning, wobei Lean-Kompilierung und Rückmeldung zur semantischen Konsistenz das Belohnungssignal lieferten. Das Paper ist MathForm: Skalierung der mathematischen Autoformalisierung mit Wissensabruf und verifikationsgesteuerter Verfeinerung, arXiv 2608.14221, und das Repository enthält die Evaluierungspipeline, die Benchmark-Dateien und die Pass@k-Skripte.

Die Ergebnisse werden als Pass@8-Bestehensraten anhand von zwei separaten Kriterien berichtet: einem Syntax Check, d. h. das generierte Lean kompiliert tatsächlich, und einem Consistency Check, d. h. es kompiliert und sagt dasselbe aus wie das ursprüngliche Problem. Über sechs Benchmarks hinweg meldet die Karte einen Makrodurchschnitt von 88,06 bei Syntax und 72,37 bei Konsistenz – vor den anderen 8B-Autoformalisierern, die sie auflistet, und vor mehreren 32B-Einträgen in der Syntaxspalte. Dieser letzte Vergleich ist die Art von Behauptung, die es wert ist, getestet statt wiederholt zu werden, und es gibt ein Detail im Versuchsaufbau, das das Testen nicht trivial macht: Kompilierungsprüfungen erfordern einen laufenden Kimina Lean Server, und die Experimente verwendeten Lean 4.21.0. Dies ist kein Checkpoint, den man mit einem Python-Skript bewerten kann.

Alle oben genannten Zahlen sind vom Anbieter angegeben. OpenBMB hat die Evaluierung durchgeführt, OpenBMB hat sie veröffentlicht, und das Repository enthält tatsächlich die Skripte, um sie zu reproduzieren – was mehr ist, als die meisten Labore bieten, und der Grund dafür, dass die Zahlen auch unverifiziert etwas wert sind. Die Karte veröffentlicht außerdem ihre empfohlenen Generierungseinstellungen, Temperatur 0.6 und Top-p 0.95, also genau die Art kleines operatives Detail, bei dem man bei einem Modell ohne Karte raten muss.

Was ZwZ2-9B auf den Tisch bringt

Eine config.json, eine tokenizer_config.json, eine Chat-Vorlage und 18,8 GB an Gewichten. Es gibt keine README, kein Lizenzfeld, keinen Pipeline-Tag und keinen Datensatz. Der Hub meldet null Downloads und zwei Likes, und keine inclusionAI-Sammlung enthält es.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

Was dir nichts davon verrät, ist, worin das Modell gut ist, worauf es trainiert wurde, ob es ein Instruktionsmodell oder etwas anderes ist oder unter welchen Bedingungen du es verwenden darfst. MathForm-8B beantwortet alle vier Fragen auf seinem ersten Bildschirm. ZwZ2-9B beantwortet keine davon irgendwo.

Die gemeinsame 4.096 ist kein Zufall, und sie ist keine Abkürzung.

Beide Modelle verwenden einen Trunk mit 4.096 Breite und einer Zwischengröße von 12.288, und der Grund ist in beiden Fällen derselbe: eine Qwen-Generation dieser Größe. Qwen3-8B und Qwen3.5-9B sind unterschiedliche Designs — durchgängig Full Attention gegenüber einer Drei-zu-eins-Mischung aus linearer Attention und Full Attention —, doch beide basieren auf derselben Breite, denn genau das ist ein kleines Qwen. Zu beobachten, wie ein Fine-Tune jede Dimension seines Elternmodells erbt, ist der deutlichste verfügbare Beleg dafür, dass Fine-Tunes die Eigenschaften ihres Elternmodells in Bausch und Bogen erben: die Stärken und die Fehlermodi, nicht nur die Form. MathForm-8B verrät dir, von welchem Elternmodell es stammt, sodass du nachlesen kannst. ZwZ2-9B verrät es nicht, und das Hub-Tag ist der einzige Faden zurück.

Welches du tatsächlich brauchst

Diese sind keine Substitute, und die Überlappung ist nahezu null. MathForm-8B tut genau eine Sache: Es verwandelt eine mathematische Aussage in natürlicher Sprache in Lean 4, das sich kompilieren lässt. Sein gesamter Evaluierungsapparat, einschließlich der Anforderung eines laufenden Lean-Servers, ist darauf ausgerichtet. Wenn das Ihr Problem ist, ist es eine starke, dokumentierte Apache-2.0-Antwort mit reproduzierbaren Werkzeugen, und der Konsistenzwert 72,37 ist die Zahl, die es zu schlagen gilt — Konsistenz, nicht Syntax, denn eine Formalisierung, die kompiliert, aber etwas anderes bedeutet, ist ein Bug, der Sie mehr kostet als eine fehlgeschlagene Kompilierung.

ZwZ2-9B ist ein allgemeines Vision-Language-Modell. Es wurde noch nie auf Autoformalisierung evaluiert, hat keine nennenswerten Lean-Tokenizer-Überlegungen und wurde von einem Labor veröffentlicht, dessen frühere Arbeit sich mit feingranularer visueller Wahrnehmung befasste. Suchen Sie nicht nach einem ZwZ2-9B-Score auf einem Lean-Benchmark; es gibt keinen Grund, warum es einen geben sollte.

Die eigentliche Frage ist, ob Sie überhaupt einen Spezialisten oder einen Generalisten wollen. Ein Spezialist ist besser in seiner einen Aufgabe und außerhalb davon nutzlos. Ein Generalist ist schlechter in allem Spezifischen und die einzige Option, wenn die Form der Eingabe variiert. Der Grund für diese Schieflage ist nicht der Abstand von acht Wochen zwischen ihnen oder die Milliarde Parameter – sondern dass das eine mit der Dokumentation veröffentlicht wurde, die ein Spezialist braucht, und das andere als Ausgangspunkt für die Arbeit von jemand anderem.

Wenn du beide Fähigkeiten in einer Pipeline haben möchtest

Es gibt ein echtes Muster, bei dem diese beiden Modi aufeinandertreffen: Ein allgemeines Modell liest ein mehrdeutiges Dokument, extrahiert die mathematische Behauptung, übergibt sie an einen Formalisierer, und ein Prüfer entscheidet, ob das Ergebnis Bestand hat. Das sind drei Modellaufrufe mit unterschiedlichen Rollen, und es ist die Form, für die es eine Routing-Schicht gibt, um sie günstig zu machen — OrcaRouters Routing-DSL setzt mehrere Modelle zu einem einzigen Aufruf zusammen sodass ein Fan-out und ein Follow-up eine einzige Anfrage sind statt eines Orchestrierungsdienstes, den man pflegen muss. Modellfusion, bei der ein Panel von Modellen gemeinsam antwortet und ein Richter die stärkste Antwort auswählt, ist dieselbe Idee, angewandt auf eine einzelne schwierige Frage statt auf eine Pipeline.

Weder ZwZ2-9B noch MathForm-8B sind in unserem Katalog, und wir werden das nicht beschönigen: MathForm-8B lässt sich unter Apache-2.0 herunterladen und über Ihre eigene vLLM- oder SGLang-Instanz bereitstellen, und ZwZ2-9B ist ein Repository ohne jeglichen Endpoint. Was heute von der Reasoning-Seite dieser Pipeline aus routingfähig ist, ist qwen/qwen3.8-27b — Qwens dichtes Flaggschiff der aktuellen Generation, Apache-2.0, mit einem 262K-Token-Kontext und einer gehosteten Obergrenze von 1M Token bei $0,33 pro Million Eingabe-Token und $2,40 pro Million Ausgabe-Token, zum Listenpreis des Anbieters durchgereicht, ohne Aufschlag.

Was die Asymmetrie wert ist

MathForm-8B ist das bessere Modell, über das man schreiben sollte, weil es etwas zu überprüfen gibt. ZwZ2-9B ist das interessantere Artefakt, weil ein 9,4B-Checkpoint mit einer abgestimmten Chat-Vorlage und einem abgespeckten Vorhersagekopf ein Beweis dafür ist, dass jemand echte Arbeit geleistet hat — und weil inclusionAI mit dem Namen ZwZ eine Erfolgsbilanz vorzuweisen hat, die den nächsten Beitrag sehenswert macht.

Für alle, die heute eine Entscheidung treffen, gilt eine wenig glamouröse Regel. Ein veröffentlichtes Paper, ein Datensatz, ein benanntes Basismodell und eine angegebene Lizenz sind kein Papierkram. Sie sind der Unterschied zwischen einem Modell, mit dem man planen kann, und einem Modell, das man erst reverse-engineeren muss, und keine noch so interessante Architektur schließt diese Lücke.

Ein Ergebnis wie dieses ist auch eine Erinnerung daran, dass Modellfehler bereits dokumentiert sind: Die KI-Vorfälle und Agenten-Ausfälle hinter Modellen dieser Klasse werden im OrcaRouter AI Incident Archive gesammelt, wobei jeder Eintrag eigene Quellen, einen Schweregrad, eine Konfidenzstufe und eine Kennzeichnung als umstritten trägt.