ZwZ2-4B vs. Qwen3.8-27B: Ein 4,5B-Spezialist trifft auf Qwens 28B-Flaggschiff

Angenommen, Ihre Bildpipeline führt täglich 200.000 Abfragen aus und Sie besitzen eine einzelne 16-GB-Karte. Diese einzige Einschränkung schließt Qwen3.8-27B bereits aus, bevor irgendein Benchmark diskutiert wird: Bei 28 Milliarden Parametern sind allein die BF16-Gewichte ungefähr 56 GB groß, und keine noch so clevere Serving-Strategie bringt sie ohne eine Quantisierung, die Sie nicht eingeplant haben, auf 16 GB. ZwZ2-4B passt mit 4,54 Milliarden Parametern und einer 9,08 GB großen Gewichtsdatei. Die ehrliche Frage ist also nicht, welches Modell besser ist. Sie lautet, ob die geringere Leistungsfähigkeit des kleinen Checkpoints für Ihre Arbeitslast eine echte Einschränkung darstellt oder ob Sie kurz davor waren, für ein Flaggschiff zu bezahlen, um Fragen zu Ausschnitten von Produktfotos zu beantworten.

Es gibt einen Haken, der dieses Duell seltsamer macht, als der Slug vermuten lässt. Die 3.8-Generation von Qwen hat nie ein Modell in dieser Größenklasse veröffentlicht. Zu ihr gehören das 27B-Dense-Modell vom 5. August 2026, ein Mixture-of-Experts mit 2,4 Billionen Parametern vom 8. August und Flash-Next am 24. August – das trotz des Namens ein Modell mit 180 Milliarden Parametern aus einer anderen Architekturfamilie ist. Kein Dense-Modell unter 27B. Daher ZwZ2-4B hat als wahren Gegner in gleicher Größe Qwen3.5-4B, den Februar-Checkpoint, von dem es feinabgestimmt wurde. Qwen3.8-27B geht in diesen Vergleich als Obergrenze ein, nicht als ebenbürtiger Gegner.

Es gibt keinen Maßstab, an dem diese beiden zusammenkommen können.

Beginne mit dem, was die meisten Vergleichsseiten unehrlich macht. Qwen3.8-27B verfügt über veröffentlichte Evaluierungen und ein Ökosystem; ZwZ2-4B hat 25 Benchmark-Ergebnisse, die nur in seiner eigenen Modellkarte existieren, erzeugt von dem Labor, das es trainiert hat, und nirgends unabhängig repliziert wurden. Man kann nicht eine vom Anbieter gemeldete 54.79 neben eine Benchmark-Suite eines anderen Labors stellen und sie voneinander abziehen. Die beiden Zahlen wurden nicht auf denselben Aufgaben, mit derselben Auflösung und unter demselben Harness erzeugt.

Dieser Beitrag bewertet sie also nicht gegeneinander. Er vergleicht, wofür jedes von beiden gebaut ist, was der Betrieb jeweils kostet und worauf das kleinere verzichtet. Wo eine Zahl auftaucht, ist angegeben, von wem sie stammt.

Die Lücke, Dimension für Dimension

• Parameter — ZwZ2-4B 4,539,265,536 vs. Qwen3.8-27B 28B auf ihrer Karte

• Gewichte auf der Festplatte – etwa 9,08 GB BF16 gegenüber rund 56 GB BF16

• Tiefe — 32 Schichten vs. 64

• Breite — versteckte Größe 2.560 vs. 5.120

• Attention-Form — 16 Query-Heads gegenüber 4 KV-Heads bei einer Head-Dimension von 256, in beiden

• Aufmerksamkeitszeitplan – ein 3:1-Verhältnis von linear zu voll in beiden

• Kontextfenster — 262.144 Positionen in beiden

• Vokabular — 248.320 Token in beiden

• Vision-Tower – 24 Schichten bei Hidden-Größe 1.024 gegenüber 27 Schichten bei Hidden-Größe 1.152

• Lizenz — keine deklariert für ZwZ2-4B vs. Apache-2.0 für Qwen3.8-27B

Die vier übereinstimmenden Zeilen sind die interessanten. Beide Modelle erben denselben Architekturbezeichner, qwen3_5, mit derselben Attention-Geometrie und derselben Kontextobergrenze. Die 3.8-Generation hat den Stack nicht neu gestaltet; sie hat ihn skaliert. Das ist der Grund, warum die Konfiguration des 4B wie eine Miniatur des 27B aussieht und nicht wie ein Fremdkörper, und es ist auch der Grund, warum das 4B die Serving-Eigenschaften des 27B erbt — die Linear-Attention-Schichten sind es, die einen 262K-Kontext in dieser Größe bezahlbar machen.

Die einzige wirklich vergleichbare Zahl im gesamten Duell.

Die Karte von ZwZ2-4B weist für sein Basismodell 49,41 und für es selbst 54,79 über 25 Benchmarks aus, ein Zuwachs von 5,38 Punkten. Das ist ein Vergleich zwischen zwei Checkpoints, die nach demselben Verfahren, an denselben Aufgaben und von demselben Labor trainiert und gemessen wurden. Es beruht weiterhin auf Angaben des Anbieters, und die Auswahl der Benchmarks liegt beim Labor, aber zumindest sind die beiden Seiten der Subtraktion vergleichbar.

Daraus folgen zwei Dinge. Erstens: Der Zugewinn ist nur in dem Sinne real, dass das Labor ihn gemessen hat; niemand hat die 54,79 reproduziert. Zweitens, und das ist nützlicher: Die Baseline ist ein starkes Modell. Qwen3.5-4B verzeichnet 7,4 Millionen Downloads pro Monat und kommt auf 1.145 Likes — es ist ein breit eingesetzter Checkpoint mit einem echten Ökosystem. Wenn ZwZ2-4B bei wahrnehmungsintensiven Aufgaben 5,38 Punkte besser ist, ist das ein bedeutsames Delta gegenüber einem Modell, das tatsächlich genutzt wird. Wenn es bei Benchmarks, die gezielt genau das belohnen sollen, worauf es trainiert wurde, 5,38 Punkte besser ist, wird das Delta im Produktivbetrieb kleiner sein.

Die Methode erklärt, welche Lesart wahrscheinlicher ist. ZwZ2 wurde mit GRPO auf Multiple-Choice-Fragen mit vier Antwortoptionen trainiert, die aus SA-1B-Regionsausschnitten erstellt wurden – etwa 20.000 davon –, ohne eine Phase des überwachten Fine-Tunings. Jedes Trainingssignal, das das Modell je gesehen hat, war eine Auswahl aus vier Möglichkeiten darüber, ob eine Region die Belege enthält, die eine Frage benötigt. Eine Arbeitslast dieser Form ist der Bereich, in dem die 5.38 Bestand haben sollte. Eine offene Beschreibung hat nicht diese Form.

Was ein 28B-Flaggschiff bietet, was ein 4,5B nicht bieten kann

Qwen3.8-27B ist ein allgemeines Vision-Sprachmodell: Bilder, Video, flexible Denksteuerung, eine Apache-2.0-Lizenz und genügend Parameter-Spielraum, um eine breite Vor-Trainings-Diät aufgenommen zu haben statt eines einzigen engen, hochwertigen synthetischen Curriculums. Seine Downloadzahl – 7,5 Millionen im letzten Monat, bei 18.500 Likes – ist das Ökosystem-Signal, das zählt, wenn man ein Grundmodell statt eines Spezialisten auswählt. Adapter, Quantisierungen, Fine-Tunes und Tooling existieren dafür und nicht für einen Checkpoint ohne Downloads.

Die Bandbreite zeigt sich in den Fehlermodi. Die Modellkarte von ZwZ2-4B listet Halluzinationen, falsch gelesenen Text, Zählfehler und räumliche Fehler auf und merkt an, dass die Ergebnisse von der Bildauflösung, der Kontextlänge und dem Prompt-Format abhängen. Ein 28B-Generalist hat im Prinzip dieselben Fehlerklassen, aber mehr Kapazität, Details über einen längeren Kontext hinweg zu halten, und keine Anforderung, dass die Aufgabe einer Vierfachauswahl ähneln muss.

Für die Dokumentenextraktion, mehrseitiges Schlussfolgern, Video oder alles, bei dem die Antwort ein Absatz statt einer Region ist, ist das 27B das bessere Instrument, und der Größenunterschied ist nicht der entscheidende Faktor – das Trainingsziel ist es.

Die Kostenrechnung mit echten Preisen

Hier hört der Vergleich auf, abstrakt zu sein. Auf OrcaRouter qwen/qwen3.8-27b wird zu $0,33 pro Million Input-Token und $2,40 pro Million Output-Token bereitgestellt, mit einem Kontext von 262K. Nehmen wir eine repräsentative Bildanfrage mit 1.500 Input-Token und 300 Output-Token. Tausend davon kosten auf dem 27B etwa $1,22. Das leichtere qwen/qwen3.8-flash, mit $0,15 und $0,47, landet für dieselben Tausend bei etwa $0,37. Ein gehostetes 8B-Vision-Modell liegt dazwischen.

ZwZ2-4B hat keinen Preis pro Token, weil es keinen gehosteten Endpunkt gibt – die Hugging Face-Seite gibt an, dass kein Anbieter es bereitstellt. Seine Kosten entsprechen Ihren GPU-Stundenkosten geteilt durch den Durchsatz, und es ist die einzige Option in diesem Vergleich, die auf einer einzelnen 16-GB-Karte läuft. Das ist das gesamte wirtschaftliche Argument für das kleinere Modell, und es ist ein starkes, wenn Sie die Hardware ohnehin bereits bezahlen.

Ein struktureller Punkt zum Routing, da er sich darauf auswirkt, wie du das testest. OrcaRouter gibt die Listenpreise der Anbieter mit 0 % Aufschlag weiter, sodass sich die oben genannte Zahl, wenn Qwen den Preis eines gehosteten Qwen-Modells ändert, noch am selben Tag ändert und nicht erst zur nächsten Vertragsverlängerung. Einen Kostenvergleich zwischen einem selbst gehosteten Checkpoint und einem gehosteten Modell anzustellen ist nur dann ehrlich, wenn die gehostete Seite den heutigen Listenpreis widerspiegelt, und genau diese Eigenschaft wird hier beschrieben – kein Rabatt.

Wo das kleine Modell sogar gegen ein Flaggschiff gewinnt

Drei Fälle, und sie sind enger gefasst, als das Marketing für kleine Modelle üblicherweise nahelegt.

Der erste Punkt ist die Deployment-Kontrolle. Eine 9,08-GB-BF16-Datei lässt sich festschreiben, versionieren und an eine Edge-Box ausliefern. Bei einer 56-GB-Datei ist das nicht möglich, und eine gehostete API liefert Ihnen weder die Gewichte noch eine Versionsgarantie. Wenn Ihre Produktvorgabe lautet: „Das Modell reist mit dem Gerät“, dann ist das 27B-Modell zu keinem Preis ein Kandidat.

Der zweite Punkt ist die Kostenvorhersagbarkeit bei hohem Volumen. Self-Hosted-Inference hat eine flache Kostenkurve und keine Abrechnung pro Token. Bei 200.000 Bildabfragen pro Tag sind 1,22 $ pro Tausend ungefähr 244 $ pro Tag – etwa 7.300 $ pro Monat – für das 27B-Modell zum Listenpreis. Ob Self-Hosting das schlägt, hängt vollständig von der Auslastung ab, und eine einzelne unterausgelastete Karte schafft das oft nicht.

Der dritte Punkt ist die Aufgabenspezialisierung. Wenn Ihre Arbeitslast wirklich „Welche dieser vier Regionen enthält den Beleg?“ lautet, wurde ZwZ2-4B genau auf diese Form trainiert – mit einem Filterungsschritt, der Fragen entfernen soll, die sich ohne die Region beantworten lassen. Ein Generalist verwendet Kapazität auf alles andere. Dies ist der Fall, in dem ein 4,5B-Checkpoint einen 28B-Checkpoint schlagen kann, und der einzige Fall, in dem die 5,38-Punkte-Behauptung des Anbieters das bedeuten würde, was ein Leser sich davon erhofft.

Wie man entscheidet – in der Reihenfolge, in der die Entscheidung tatsächlich abläuft

• Wenn die Gewichte auf Hardware liegen müssen, die Sie kontrollieren, und die Hardware klein ist – nehmen Sie ZwZ2-4B, akzeptieren Sie die Lizenzunklarheit und planen Sie Ihre eigene Evaluierung ein.

• Wenn es sich bei der Aufgabe um regionsgebundene Multiple-Choice-Fragen oder die Wiederauffindung visueller Belege handelt — teste ZwZ2-4B gegen Qwen3.5-4B an deinen eigenen Daten, bevor du dir die 5.38 auf der Karte ansiehst. Dieses Delta ist, wenn es reproduziert wird, die einzige Zahl, die zählt.

• Wenn Sie Video, lange Dokumente, eine offene Beschreibung oder eine Lizenz benötigen, die Ihr Rechtsteam unterschreiben wird – nehmen Sie Qwen3.8-27B und lesen Sie nicht weiter.

• Wenn Sie keine Hardware und keine Lust auf den Betrieb haben — nehmen Sie den gehosteten Qwen-Weg, denn die Alternative ist ein Betriebsprojekt, keine Modellentscheidung.

Das Unangenehme an dieser Gegenüberstellung ist, dass der interessante Vergleich nicht der im Titel ist. ZwZ2-4B gegen Qwen3.8-27B ist eine Entscheidung über die Deployment-Klasse, die als Modellvergleich getarnt ist. Der eigentliche direkte Vergleich – gleiche Basis, gleiche Größe, gleiche Serving-Kosten, eine gemessene Lücke von 5,38 Punkten – ist ZwZ2-4B gegen Qwen3.5-4B, und das ist das Experiment, das es wert ist, an Ihren eigenen Bildern durchzuführen, bevor eine dieser Zahlen Ihre Architektur verändert.