Granite Switch 4.1 8B vs. Qwen3-8B: Was passiert, wenn die Gegenseite keinen Nachfolger hat

Beginnen wir mit einem Namensproblem, denn es verändert, was dieser Artikel ehrlicherweise sein kann. Wenn Sie nach dem 8B-Modell in Alibabas neuester Qwen-Generation suchen, werden Sie keines finden: Die Qwen3.8-Reihe — Qwen3.8-27B, Qwen3.8-Max, die Flash-Varianten, das enorme 2.4T-A95B-Mixture-of-Experts — enthält einfach kein dichtes 8B-Mitglied. Der 8B-Platz in der Qwen-Familie ist noch immer von Qwen3-8B besetzt, veröffentlicht am 27. April 2025: 8,2 Milliarden Parameter, hybrides Denken und Nicht-Denken in einem Modell, über 100 Sprachen und Dialekte, 32.768 Token nativer Kontext, der sich mit YaRN auf 131.072 erweitert. Dieses Modell ist sechzehn Monate alt und noch immer einer der meistheruntergeladenen Open-Weights-Checkpoints überhaupt. Es ist das amtierende Modell — und was diesen Vergleich es wert macht, darüber zu schreiben, ist, dass Granite Switch 4.1 8B, IBMs zusammengesetzter Checkpoint vom 14. Oktober 2026, überhaupt nicht anbietet, es durch einen Nachfolger zu ersetzen. Es bietet eine andere Form von Modell in derselben Parameterklasse: ein eingefrorenes 8B-Textmodell mit zwei umschaltbaren Adaptern und einem daran angebundenen Sprach-Encoder, das drei Aufgaben durch Umschalten erledigt statt einer Aufgabe durch Reasoning. Niemand hat Qwen3-8B ersetzt, und die bessere Frage ist, ob das überhaupt jemand muss.

Dagegen steht Granite Switch 4.1 8B, IBMs zusammengesetzter Checkpoint vom 14. Oktober 2026 – ein eingefrorenes Granite 4.1 8B mit 8.380.551.168 Parametern, das zwei umschaltbare aktivierte LoRA-Adapter und einen 470M-Sprach-Encoder trägt, für eine zusammengesetzte Gesamtsumme von 8.776.400.896, ein Plus von 4,72 %. Dieselbe Parameterklasse, eine völlig andere Vorstellung davon, was ein Modell ist. Qwen3-8B ist ein dichter Stack, der alles erledigt, indem er darüber nachdenkt. Granite Switch 4.1 8B ist ein Stack, der nichts durch Nachdenken tut und drei Dinge durch Umschalten erledigt.

Der 8B-Slot ist leer, und das ist die eigentliche Geschichte

Es lohnt sich, einen Moment bei der Abwesenheit zu verweilen, statt sie als Lücke in diesem Vergleich abzutun. Alibaba hat die Qwen3.8-Generation mit einem dichten 27B-Modell, einer Max-Variante, Flash-Varianten und einem Mixture-of-Experts mit 2,4 Billionen Parametern veröffentlicht und die Größenklasse übersprungen, die die vorherige Generation zur Standardwahl für den Einsatz auf einer einzelnen GPU gemacht hat. Jedes Team, das sich für Qwen3-8B entschieden hat, weil es auf eine einzige Karte passte und kostengünstig feinabgestimmt werden konnte, blickt nun auf eine Nachfolger-Modellpalette, die entweder den Speicherbedarf verdoppelt oder das Serving-Problem vollständig verändert.

Das ist die eigentliche Entscheidung, um die es in diesem Artikel geht. Niemand wählt zwischen Qwen3-8B und Granite Switch 4.1 8B wegen der Qualität – ein sechzehn Monate alter Amtsinhaber gegen einen zwei Tage alten Herausforderer ohne unabhängige Bewertung ist kein Qualitätsvergleich, sondern ein Wissensvergleich. Die Frage ist, was man tut, wenn das eigene Arbeitstier keinen Nachfolger derselben Größe hat, und die beiden möglichen Antworten lauten „das Arbeitstier behalten“ und „die Form wechseln“.

Qwen3-8B: Was sechzehn Monate Produktion bringen

Qwen3-8B ist ein dichter kausaler Transformer mit 36 Schichten, Hidden-Size 4.096, Grouped-Query-Attention mit 32 Query-Heads gegenüber 8 KV-Heads, einem Intermediate von 12.288, RoPE-Theta 1e6, nicht gebundenen Embeddings und einem Vokabular von 151.936 Token. Rund 8,2 Milliarden Parameter, davon etwa 6,95 Milliarden ohne Embeddings. Der Thinking-Schalter ist ein Parameter — enable_thinking — und die Generierungseinstellungen unterscheiden sich je nach Modus, wobei die Model Card ausdrücklich vor Greedy Decoding im Thinking-Modus warnt, weil es zu Schleifen führt.

Was es hat, das kein neuer Checkpoint für sich beanspruchen kann: sechzehn Monate Produktions-Traffic anderer Leute. Fehlermodi, die schon jemand anderes erlebt und dokumentiert hat. Quantisierungen, Fine-Tunes, LoRA-Rezepte und Deployment-Anleitungen für jedes Serving-Framework, das zählt. Fast zehn Millionen Hub-Downloads und über zweitausend Likes, mit einer Instruct-Lineage dahinter. Wenn ein Modell so lange öffentlich ist, ist das Ökosystem darum herum ein echter Teil seiner Fähigkeiten, und kein Veröffentlichungsdatum kann rückdatiert werden, um Teil davon zu werden.

Granite Switch 4.1 8B: Was eine neue Form bringt

IBMs Checkpoint ist eher eine Zusammensetzung als ein Modell, und die Bestandteile sind in einem Build-Manifest dokumentiert, das neben den Gewichten eingecheckt ist. Basis: Granite 4.1 8B, 40 Schichten, Hidden-Size 4.096, 32 Query-Heads gegenüber 8 KV-Heads, 131.072-Token-Fenster, 100.352-Token-Vokabular. Adapter: guardian-core, Rang 16, Alpha 64, über die Attention-Projektionen (k_proj, o_proj, q_proj, v_proj), Erkennung von Schaden, Jailbreaking, Vulgärsprache, Gewalt, sexuellen Inhalten, sozialer Voreingenommenheit und unethischem Verhalten; und decision, Rang 64, Alpha 128, über alle sieben Projektionen einschließlich des MLP, die eine kalibrierte Softmax über gelabelte Options-Tokens in einem einzigen Vorwärtsdurchlauf zurückgibt. Encoder: Granite Speech 5.0 TurboCTC, 470 Mio. Parameter, nicht-autoregressives Conformer-CTC, Englisch. Lizenz: Apache-2.0, wie bei Qwen3-8B.

Die Fähigkeit, für die es kein Qwen3-8B-Äquivalent gibt, ist der Entscheidungsadapter. Sie übergeben ihm einen Zustand und eine Frage mit beschrifteten Optionen, und es gibt eine Verteilung zurück, keine Antwort — der dokumentierte Aufruf fragt bei vLLM die Logprobs genau der Label-Token-IDs über logprob_token_ids ab und exponenziert sie, wodurch eine Ausgabe der Form A: 0.982, B: 0.0035, C: 0.014 entsteht. Sie können Qwen3-8B dazu auffordern, ein Label auszuwählen, und es wird dies kompetent tun, und Sie erhalten einen Buchstaben. Ein Buchstabe kann nicht als kalibrierter Score mit einem Schwellenwert versehen, über Turns hinweg gemittelt oder als Konfidenzwert protokolliert werden. Das ist der Unterschied, und es ist kein Unterschied, den Skalierung behebt.

Das Zweite, was die Komposition einbringt, ist Arithmetik. Jeder Adapter teilt den Key/Value-Cache des Basismodells, anstatt einen eigenen zu unterhalten, sodass der Weg von keinen Adaptern zu zwei plus einem Sprach-Encoder 4,72 % an Parametern kostet statt eines frischen Attention-Zustands pro Fähigkeit. IBMs Launch-Post behauptet, das komponierte Modell benötige ungefähr denselben VRAM wie das Basismodell allein; diese spezifische Behauptung ist nicht reproduziert, aber das Parameter-Delta, auf dem sie beruht, steht direkt im Manifest. Das ist auch der Grund, warum der Launch-Post ein Wettrennen zwischen einem 30B-komponierten Granite Switch und einem 27B-Entscheidungsmodell als Geschwindigkeitsvorteil statt als Speichernachteil beschreiben kann.

• Parameter — 8,78 Mrd. zusammengesetzt (8,38 Mrd. Basis) vs. 8,2 Mrd.

• Ebenen — 40 vs. 36.

• Kontext — 131.072 native vs. 32.768 native, 131.072 mit YaRN.

• Vokabular — 100.355 vs. 151.936.

• Sprachen — zwölf namentlich genannt (Englisch, Deutsch, Spanisch, Französisch, Japanisch, Portugiesisch, Arabisch, Tschechisch, Italienisch, Koreanisch, Niederländisch, Chinesisch) vs. über 100.

• Reasoning — keines vs. hybrides Denken und Nicht-Denken in einem einzigen Checkpoint.

• Strukturierte Ausgabe — kalibrierte Softmax über Label-Tokens vs. abgefragte Auswahl.

• Audio-Eingang — eingebetteter 470M-ASR-Encoder vs. keiner.

• Ökosystem — zwei Tage alt, keine nennenswerten Quantisierungen oder Fine-Tunes im Vergleich zu sechzehn Monaten Community-Arbeit.

Wo Qwen3-8B nach wie vor gewinnt

Sprachen, und zwar entscheidend. Zwölf benannte Sprachen gegenüber mehr als hundert sind kein Rundungsfehler für jeden, der an ein globales Publikum ausliefert, und es ist das Erste, was ein Migrationstest aufdecken wird. Das Vokabular erzählt dieselbe Geschichte: 151.936 Token gegenüber 100.355, wobei die drei reservierten Adapter-IDs von Granite es auf 100.355 aufrunden. Ein Modell, das auf hundert Sprachen trainiert wurde, wurde auf hundert Sprachen trainiert.

Der native Kontext ist der zweite. 131.072 Token ab Werk gegenüber 32.768 mit einem YaRN-Erweiterungspfad. Granite Switch 4.1 8B erreicht zufällig dieselben 131K, doch dorthin gelangt es nativ, und die YaRN-Erweiterung hat einen Preis beim Verhalten in langem Kontext, den ein natives Fenster nicht hat.

Der dritte ist derjenige, der über die meisten echten Migrationen entscheidet: Nichts ist kaputt. Es gibt keine Integration, die umgeschrieben werden müsste, keinen Serving-Stack, der geändert werden müsste, kein Verhalten, das neu erlernt werden müsste. Jeder Fehlermodus wurde bereits von jemand anderem dokumentiert, und die Fine-Tunes, die Sie vielleicht bereits haben, gehören Ihnen. Ein Herausforderer muss deutlich besser sein, damit es sich lohnt, das aufzugeben, und im Alter von nur zwei Tagen und ohne unabhängige Bewertung hat Granite Switch 4.1 8B nicht belegt, dass es das ist.

Wo Granite Switch 4.1 8B gewinnt

Entscheidungsbewertung und die operative Ausprägung, die damit einhergeht. Wenn Ihre Anwendung einen Konfidenzwert über gelabelten Optionen benötigt – das Routing eines Tickets, die Bewertung einer Eskalationsschwelle, die Auswahl eines Tools mit einer zugehörigen Zahl –, dann ist das eine Grundfunktion, die Qwen3-8B nicht bietet, und Prompting erzeugt sie nicht. Die veröffentlichte Zahl für diesen Adapter ist der Decision Index, Edition v0.3, öffentliches Fast-Subset von 1.068 Zeilen: 42,9 insgesamt, mit Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 und Arts 18,0. IBM hat ihn durchgeführt, IBM hat ihn veröffentlicht, niemand hat ihn reproduziert, und die Karte selbst sagt, dass die Wahrscheinlichkeiten ein Prior und keine zertifizierte Klassifikation für Domänen sind, für die der Adapter nicht trainiert wurde.

Endpoint-Konsolidierung ist der zweite Punkt. Chat, Entscheidungen und Transkription auf einem Endpoint, wobei die Transkription durch einen gewöhnlichen input_audio-Inhaltsteil statt eines zweiten Dienstes ausgelöst wird. Die Einschränkungen aus IBMs Karte gelten und es lohnt sich, sie sinngemäß wörtlich zu wiederholen: nur Englisch, Ausgabe in Kleinbuchstaben und ohne Satzzeichen, und der Sprach-Encoder und das LLM sind nicht gemeinsam trainiert, sodass eine Fehltranskription unbemerkt ändern kann, worauf das Modell reagiert.

Und Kompositionsfähigkeit ist der dritte Punkt – der Composer ist öffentlich, der Adapterkatalog ist offen, und Sie können Ihre eigene Variante erstellen, anstatt IBMs Wahl von zwei Adaptern zu akzeptieren.

Was tun, während der 8B-Slot leer ist

Der produktive Schritt ist nicht die Migration. Er besteht darin, Granite Switch 4.1 8B als Kandidaten für die spezifischen Anfragen zu behandeln, die Qwen3-8B schlecht bewältigt – diejenigen, die mit einem Konfidenzwert enden oder als Audio eintreffen – und alles andere dort zu belassen, wo es ist. Das ist ein Routing-Problem, kein Rewrite: Schicken Sie die entscheidungsförmigen Aufrufe in die eine Richtung und den Konversationsverkehr in die andere, und halten Sie den Fallback-Pfad intakt, während Sie herausfinden, ob die neue Form sich in Ihrem Datenverkehr tatsächlich bewährt.

Dies ist die Ebene, die OrcaRouter einnimmt, und es lohnt sich, hier präzise zu sein, was das bedeutet: Qwen3-8B ist heute nicht in unserem Katalog und Granite Switch 4.1 8B ebenso wenig, wir sind also kein Weg, um eines von beiden zu bekommen – Qwen3-8B ist ein Download von Hugging Face und Granite Switch 4.1 8B ist ein Download von Hugging Face plus ein vLLM-Container. Was die Plattform leistet, ist die umliegende Arbeit: ein API-Schlüssel über mehr als 200 gehostete Modelle hinweg, automatisches Failover, damit ein Kandidat in einem Live-Pfad sitzen kann, ohne ein Single Point of Failure zu sein, die Routing-DSL zum Zusammensetzen mehrerer Modelle zu einem Aufruf, und Anbieter-Listenpreis mit 0 % Aufschlag weitergegeben, damit eine Preissenkung eines Anbieters noch am selben Tag live ist statt beim nächsten Refresh. Wenn Sie sehen möchten, wie ein Qwen der aktuellen Generation auf einem gehosteten Endpunkt aussieht, während Sie dies abwägen, Qwen3.8-27B ist im Katalog und gehört zur selben Familie wie der bisherige Vertreter in diesem Vergleich.

Fazit

Behalten Sie Qwen3-8B als Standard bei. Sechzehn Monate im Produktivbetrieb, über hundert Sprachen und ein Vokabular mit 151.936 Tokens sind keine Vorteile, die ein zwei Tage alter Checkpoint allein durch Architektur wettmacht, und die Tatsache, dass Alibaba keinen 8B-Nachfolger veröffentlicht hat, macht Granite Switch 4.1 8B nicht zu diesem Nachfolger – sie macht ihn zu einem anderen Werkzeug, das zufällig in derselben Speicherklasse landet. Führen Sie es eng umgrenzt und gezielt ein: für Anfragen, die eine kalibrierte Verteilung über gelabelte Optionen benötigen, für Inline-Sicherheitsprüfung und für Audio auf demselben Endpoint wie Chat. Testen Sie es an Ihrem eigenen Labelset, bevor Sie auf 42,9 vertrauen, denn diese Zahl gehört IBM und ausschließlich IBM. Das Interessante an diesem Duell ist nicht, dass ein Modell das andere schlägt – sondern dass der 8B-Slot leer blieb und das Modell, das ihn als Nächstes füllt, möglicherweise gar kein dichtes 8B-Modell ist.