RepGen-4B vs. Qwen 3.8: Ein sieben Monate altes 4B-Fine-Tuning gegen Alibabas aktuelles Flaggschiff

Beginnen wir mit der Tatsache, die diese Paarung seltsam macht. microsoft/UserRepGen-4B, am 14. Oktober 2026 ohne Ankündigung hochgeladen, ist ein Fine-Tuning von Qwen3.5-4B – dem Februar-2026-Checkpoint, eine ganze Generation hinter dem Modell, mit dem es hier verglichen wird. Qwen 3.8 ist Alibabas Generation von August 2026, und zu den angebotenen Mitgliedern gehören Qwen3.8-Max, das Flaggschiff, mit 2,00 $ pro Million Eingabe-Token und 6,00 $ pro Million Ausgabe über einen Kontext von einer Million Token, Qwen3.8-27B mit 0,33 $ und 2,40 $ über 262.144 Positionen sowie Qwen3.8-Flash mit 0,15 $ und 0,47 $. Microsoft sah sich diese Familie an und ging für eine 4B-Basis eine Generation zurück. Dann veröffentlichte es eine Tabelle, die zeigt, dass das resultierende Modell GPT-5.5 in der einen Sache schlägt, die es tut. Diese Kombination ist der ganze Artikel: was ein gezieltes Fine-Tuning dir bringt, das ein neueres Flaggschiff nicht bietet, und was es dich kostet, das zu bekommen.

Zunächst einmal, wofür „Qwen 3.8" ein Name ist

Das sollte vor jedem Vergleich genau geklärt werden, denn der Familienname deckt mehrere sehr unterschiedliche Artefakte ab und die Preise unterscheiden sich um mehr als das Dreizehnfache. Die drei bereitgestellten Mitglieder sind die, auf die es bei einer Entscheidung ankommt:

• Qwen3.8-Max — das Flaggschiff, nativ multimodal über Text, Bild und Video hinweg, 1M-Token-Kontext, in drei Wire-Formaten bereitgestellt, darunter ein Anthropic-kompatibles. Die Premium-Stufe – für Fälle, in denen Korrektheit bei schwierigen Problemen mehr zählt als die Kosten.

• Qwen3.8-27B — das dichte Modell mit offenen Gewichten unter Apache 2.0, 262.144-Token-Kontext, Text-, Bild- und Videoeingabe. Alibabas eigene Modellkarte meldet 90,3 auf LiveCodeBench v6, 89,2 auf GPQA Diamond, 84,3 auf OSWorld-Verified und 79,0 auf QwenSWEBench – vom Anbieter gemeldete Werte, nicht unabhängig reproduziert.

• Qwen3.8-Flash – die Volumen-Schiene, 1-Mio.-Token-Kontext, bepreist für die millionenfach ausgeführte kurze Aufgabe. Außerdem gibt es im Katalog einen datierten Qwen3.8-Max (0902)-Snapshot zu denselben Tarifen, den man pinnt, wenn man reproduzierbares Verhalten statt der beweglichen Spitze benötigt.

Nichts davon ist neu, und diese Seite berichtet nicht über einen Qwen-Launch. Die Generation ist fünf Monate alt. Sie ist hier, weil sie die neuere, größere, mit besseren Benchmarks versehene Seite des Vergleichs ist und weil die interessante Behauptung nur vor dem Hintergrund von etwas so Starkem Sinn ergibt.

Die Behauptung, präzise formuliert

Microsofts Model Card berichtet über eine Fidelity-Evaluierung über 700 zurückgehaltene Konversationen, bewertet mit 1 bis 10 durch einen LLM-Judge, wobei jeder Repräsentationsgenerator in dieselbe Simulationsschleife eingeklinkt wird:

• Qwen3.5-4B, das unveränderte Backbone — 3,41 Best-of-1, 4,42 Best-of-3.

• GPT-5.5, mit Standard-Prompt dazu aufgefordert, den Nutzer zu beschreiben — 3,90 und 4,90.

• UserRepGen-4B, nach überwachtem Online-Feintuning durch Hindsight-Distillation — 4,95 und 6,02.

Jede Zahl stammt von Microsoft selbst und wurde von GPT-5.4 mini beurteilt, und nichts davon wurde außerhalb des Labors reproduziert. Lies es als Richtungsaussage, nicht als gesichertes Ergebnis. Doch die Richtung ist eindeutig, und es geht nicht um die Parameteranzahl: Die Trainingsmethode verbesserte das Backbone um 1,54 Punkte Best-of-1, und sie überholte unterwegs einen Frontier-Generalisten. Die beabsichtigte Lesart ist nicht „kleine Modelle schlagen große Modelle“ – sondern dass ein 4B-Basis-Modell vom Februar, hart auf ein einziges enges Verhalten feinabgestimmt, ein viel größeres Modell schlagen kann, das lediglich gebeten wurde, dieses Verhalten zu zeigen.

Qwen3.8-Max steht nicht in dieser Tabelle. Vermutlich würde es besser abschneiden als GPT-5.5, weil es ein stärkeres allgemeines Modell ist. Es würde das Verhalten trotzdem nur erraten, weil nichts in seinem Training darauf optimiert wurde.

Warum eine sieben Monate alte Basis die richtige Wahl war

Die Generationslücke wirkt wie ein Fehler, bis man herausfindet, was das Fine-Tuning tatsächlich von seinem Backbone braucht. Es braucht ein Modell, das einigermaßen flüssig ist, günstig im Betrieb und stabil genug, dass ein Rank-64-LoRA es verändern kann, ohne es zu zerstören. Es braucht kein Frontier-Reasoning, weil es bei der Aufgabe nicht ums Reasoning geht — sie besteht darin, eine Konversation zu beschreiben, die ihm übergeben wurde.

Zwei Details auf der Karte bestätigen diese Lesart. Das erste ist die Ausgabeobergrenze: 1.024 Token für die Repräsentation, gegenüber 8.192 für die Konversation. Das zweite ist das Trainingsbudget – Juli bis August 2026, zwei Monate – und die Tatsache, dass beide schwereren Methoden verloren. OPSD erreichte 4,46/5,60 und GRPO 3,57/4,59, beide unter einfachem überwachtem Feintuning mit 4,64/5,68. Wenn eine billige Methode zwei teure schlägt, war der Engpass nie die Fähigkeit des Backbones. Der Wechsel zu einer 2026er Flaggschiff-Basis hätte ein Modell ergeben, das pro Durchlauf mehr kostet, um dieselbe Aufgabe mit derselben Obergrenze zu erledigen.

Diese Entscheidung hat ihren Preis, und die Modellkarte ist diesbezüglich offen, statt ihn zu verbergen. Da der Vision-Tower zusammen mit dem übergeordneten Checkpoint einherkam, wird das Modell über AutoModelForImageTextToText geladen und bringt Bild- und Video-Codepfade mit, die es nie verwendet – Bild- und Videoeingaben werden in dieser Version ausdrücklich nicht unterstützt. Man erbt den Ballast der Architektur zusammen mit ihrer Sprachgewandtheit.

Die Kostenarithmetik, die nicht so ausgeht, wie die Leute erwarten

Der Reflex ist, dass lokale Inferenz günstiger ist. In dem Maßstab, für den dieses Modell ausgelegt ist, ist sie es normalerweise nicht, und wenn man die Zahlen ehrlich durchrechnet, ändert das die Entscheidung. Nehmen Sie einen Stapel von 700 Konversationen — dieselbe Größe wie Microsofts eigene Evaluierung — bei ungefähr 2.000 Prompt-Tokens und 400 Output-Tokens pro Aufruf.

• Mit Qwen3.8-27B zu 0,33 $ und 2,40 $ pro Million: etwa 1,13 $ an Token-Gesamtausgaben für den gesamten Batch.

• Mit Qwen3.8-Max zu $2.00 und $6.00: etwa $4.48.

Dem steht gegenüber, dass UserRepGen-4B einen Download von 9,1 GB, eine GPU mit genügend Speicher, um es in bfloat16 zu halten, und die Entwicklungsarbeit erfordert, eine Python-Klasse anzubinden. Microsoft berichtet, dass es mit vLLM auf H100-, A100-, RTX A6000- und B200-Hardware bereitgestellt wurde, und weist darauf hin, dass CPU-Inferenz float32 und „wesentlich mehr Speicher als die etwa 9,1 GB große Gewichtsdatei“ benötigt. Wäre die einzige Überlegung Dollar pro Token, gewinnt der API-Zugang zu einem stärkeren Modell bei diesem Volumen – und zwar deutlich.

Das bedeutet, dass die eigentlichen Gründe, UserRepGen-4B selbst zu betreiben, diejenigen sind, die nicht auf einer Preisliste stehen: die Gespräche, die Sie ihm zuführen. Die eigene Modellkarte besagt, nur Gespräche zu verarbeiten, zu deren Verarbeitung Sie autorisiert sind, zuerst identifizierende Informationen zu minimieren, und dass Repräsentationen keine anonymisierten Daten sind — die Verhaltensbeschreibungen des Modells identifizieren in 51,02 % der Fälle eine Person unter vier Kandidaten, besser als die Rohgespräche, die sie zusammenfassen, mit 44,22 %. Eine Komponente, die Gespräche in portable, menschenlesbare Profile verwandelt, ist eine, die Sie möglicherweise in Ihrem eigenen Netzwerk behalten möchten, unabhängig davon, was ein API-Aufruf kosten würde.

Wo eine Routing-Schicht in eine Pipeline wie diese passt

Dies ist häufiger eine Zwei-Modell-Form als eine Ein-Modell-Form: der Repräsentationsgenerator auf Ihrer eigenen Hardware und ein allgemeines Modell, das die Assistenzseite, die Beurteilung oder die Evaluationsschleife darum herum übernimmt. Die zweite Hälfte ist der Teil, der über eine API läuft.

Alle drei bereitgestellten Mitglieder von Qwen 3.8 sind bei OrcaRouter zum Listenpreis des Anbieters ohne Aufschlag verfügbar — $2.00 und $6.00 für Max, $0.33 und $2.40 für 27B, $0.15 und $0.47 für Flash — über einen einzigen Schlüssel, mit automatischem Failover über Anbieter hinweg, sodass ein Judge-Aufruf in einer Evaluationsschleife nicht wegen eines einzelnen Upstreams ausfällt. Wenn Sie einen Batch von Hunderten von Konversationen durch mehrere Simulatoren und Judges schleusen, ist dieses Failover wichtiger als der Preis pro Token, denn ein Durchlauf, der bei Konversation 400 abbricht, verschwendet die 399 davor. Die Routing-DSL ermöglicht es Ihnen, den Assistenten und den Judge in einem einzigen Aufruf zusammenzufassen, statt zwei Aufrufe zu verketten. Was wir nicht tun, ist, UserRepGen-4B bereitzustellen: Unser Katalog enthält keinen Eintrag dafür, und nichts hier sollte als Aussage über die Verfügbarkeit des Microsoft-Checkpoints verstanden werden.

Die Entscheidung, ohne Absicherung

Wenn Sie ein allgemeines Modell möchten, das logisch schlussfolgert, Code schreibt, Bilder liest und eine Million Token verarbeiten kann, spricht nichts in diesem Artikel gegen Qwen3.8-Max – UserRepGen-4B kann nichts davon, und der Vergleich mit einem Flaggschiff ist keiner, auf den es sich eingelassen hat. Wenn Sie einen Nutzersimulator möchten, der auf reales Gesprächsverhalten konditioniert ist, wurde auch keines der Qwen 3.8-Mitglieder dafür trainiert, und die Wahl besteht zwischen einem kleinen lokalen Fine-Tuning mit einem gemessenen Vorsprung und einem großen API-Modell ohne einen solchen.

Die offene Frage ist dieselbe, die über der gesamten Veröffentlichung schwebt: Es gibt kein Paper. Die Modellkarte gibt an, die Zitation sei „Bestätigung ausstehend“, ein Hinweis darauf, dass das Repository privat sei, steht noch immer im Nutzungsabschnitt, nachdem das Repository öffentlich geworden ist, und jede Zahl in der Fidelity-Tabelle lässt sich auf das eigene Bewertungsmodell eines einzigen Labors zurückführen. Microsoft hat ein Modell gebaut, das die stärkste Baseline schlägt, gegen die es getestet wurde. Ob es Ihre Baseline schlägt, kann nur eine Evaluation beantworten, die Sie selbst durchführen.

Ein sieben Monate altes Fine-Tune, gemessen an einem aktuellen Flaggschiff, ist auch ein guter Ort, um zu fragen, was zuvor gescheitert ist: Die dokumentierten KI-Vorfälle und Agent-Ausfälle rund um Modelle dieser Klasse sind in dem OrcaRouter AI Incident Archivegesammelt, wo jeder Eintrag seine eigenen Quellen, Schweregrad, Konfidenzstufe und Disputed-Kennzeichnung trägt.