Granite Switch 4.1 8B vs Qwen3-8B: Wat gebeurt er wanneer de andere kant geen opvolger heeft

Begin met een naamgevingsprobleem, want het verandert wat dit artikel eerlijk kan zijn. Wanneer je in de nieuwste Qwen-generatie van Alibaba naar het 8B-model zoekt, zul je er geen vinden: de Qwen3.8-lijn — Qwen3.8-27B, Qwen3.8-Max, de Flash-varianten, het enorme 2.4T-A95B mixture-of-experts — bevat simpelweg geen dense 8B-model. De 8B-plek binnen de Qwen-familie wordt nog steeds bezet door Qwen3-8B, uitgebracht op 27 april 2025: 8,2 miljard parameters, hybride denken en niet-denken in één model, meer dan 100 talen en dialecten, 32.768 tokens native context die met YaRN wordt uitgebreid tot 131.072. Dat model is zestien maanden oud en nog steeds een van de meest gedownloade open-weights-checkpoints die er bestaan. Het is het zittende model — en wat deze vergelijking de moeite waard maakt om over te schrijven, is dat Granite Switch 4.1 8B, de samengestelde checkpoint van IBM uit 14 oktober 2026, helemaal niet aanbiedt om het door een opvolger te vervangen. Het biedt een andere vorm van model in dezelfde parameterklasse: een bevroren 8B-tekstmodel met twee omschakelbare adapters en een spraakencoder die eraan hangt, dat drie taken uitvoert door te schakelen in plaats van één taak door te redeneren. Niemand heeft Qwen3-8B vervangen, en de betere vraag is of dat wel nodig is.

Daartegenover staat Granite Switch 4.1 8B, IBM's samengestelde checkpoint van 14 oktober 2026 — een bevroren Granite 4.1 8B met 8.380.551.168 parameters, met twee omschakelbare geactiveerde LoRA-adapters en een spraakencoder van 470M, voor een samengesteld totaal van 8.776.400.896, een stijging van 4,72%. Dezelfde parameterklasse, een compleet ander idee van wat een model is. Qwen3-8B is één dense stack die alles doet door erover te redeneren. Granite Switch 4.1 8B is een stack die niets doet door te redeneren en drie dingen door te schakelen.

De 8B-plek is leeg, en dat is het echte verhaal.

Het is de moeite waard om even stil te staan bij de afwezigheid, in plaats van die in deze vergelijking als een gat te behandelen. Alibaba bracht de Qwen3.8-generatie uit met een 27B dense model, een Max, Flash-varianten en een mixture-of-experts met 2,4 biljoen parameters, en sloeg de grootteklasse over die de vorige generatie tot een standaardkeuze voor single-GPU-implementatie maakte. Elk team dat voor Qwen3-8B koos omdat het op één kaart paste en goedkoop kon worden gefinetuned, kijkt nu naar een opvolgersline-up die de geheugenvereiste verdubbelt of het serveerprobleem volledig verandert.

Dat is de eigenlijke beslissing waar dit artikel over gaat. Niemand kiest tussen Qwen3-8B en Granite Switch 4.1 8B op basis van kwaliteit — een zestien maanden oude gevestigde speler tegenover een twee dagen oude uitdager zonder onafhankelijke evaluatie is geen kwaliteitsvergelijking, het is een kennisvergelijking. De vraag is wat je doet wanneer je werkpaard geen opvolger van dezelfde grootte heeft, en de twee kandidaat-antwoorden zijn "houd het werkpaard" en "verander de vorm".

Qwen3-8B: wat zestien maanden productie oplevert

Qwen3-8B is een dense causale transformer met 36 lagen, verborgen grootte 4.096, grouped-query attention met 32 query-heads tegenover 8 KV-heads, een tussenlaag van 12.288, RoPE theta 1e6, niet-gekoppelde embeddings en een vocabulaire van 151.936 tokens. Ruwweg 8,2 miljard parameters, waarvan ongeveer 6,95 miljard niet-embedding. De denkschakelaar is een parameter — enable_thinking — en de generatie-instellingen verschillen per modus, waarbij de kaart expliciet waarschuwt tegen greedy decoding in de denkmodus, omdat dit lussen veroorzaakt.

Wat het heeft wat geen enkele nieuwe checkpoint kan claimen: zestien maanden productieverkeer van anderen. Faalmodi die iemand anders al heeft meegemaakt en gedocumenteerd. Quantisaties, fine-tunes, LoRA-recepten en deploymentgidsen voor elk servingframework dat ertoe doet. Bijna tien miljoen Hub-downloads en meer dan tweeduizend likes, met een instruct-lineage erachter. Wanneer een model zo lang publiek beschikbaar is, is het ecosysteem eromheen een wezenlijk onderdeel van zijn capaciteiten, en geen enkele releasedatum kan daar met terugwerkende kracht deel van uitmaken.

Granite Switch 4.1 8B: wat een nieuwe vorm oplevert

IBM's checkpoint is een compositie in plaats van een model, en de onderdelen staan gedocumenteerd in een buildmanifest dat naast de gewichten is ingecheckt. Basis: Granite 4.1 8B, 40 lagen, hidden size 4.096, 32 query-heads tegenover 8 KV-heads, een tokenvenster van 131.072 tokens, een vocabulaire van 100.352 tokens. Adapters: guardian-core, rang 16, alfa 64, over de attention-projecties (k_proj, o_proj, q_proj, v_proj), die schade, jailbreaking, grof taalgebruik, geweld, seksuele inhoud, sociale bias en onethisch gedrag detecteert; en decision, rang 64, alfa 128, over alle zeven projecties, inclusief de MLP, die in één forward pass een gekalibreerde softmax over gelabelde optietokens retourneert. Encoder: Granite Speech 5.0 TurboCTC, 470M parameters, niet-autoregressieve conformer-CTC, Engels. Licentie: Apache-2.0, hetzelfde als Qwen3-8B.

De capaciteit waarvoor geen Qwen3-8B-equivalent bestaat, is de beslissingsadapter. Je geeft hem een toestand en een vraag met gelabelde opties en hij retourneert een verdeling, geen antwoord — de gedocumenteerde aanroep vraagt vLLM om de logprobs van precies de label-token-id's via logprob_token_ids en exponentieert, wat uitvoer oplevert in de vorm A: 0.982, B: 0.0035, C: 0.014. Je kunt Qwen3-8B vragen om een label te kiezen, en het zal dat bekwaam doen, en je krijgt een letter. Een letter kan niet als een gekalibreerde score tegen een drempel worden afgezet, over beurten worden gemiddeld, of als een betrouwbaarheidswaarde worden gelogd. Dat is het verschil, en het is geen verschil dat schaal oplost.

Het tweede wat compositie oplevert, is rekenkundige winst. Elke adapter deelt de key/value-cache van het basismodel in plaats van er een eigen te onderhouden, dus de stap van geen adapters naar twee plus een spraakencoder kost 4,72% aan parameters in plaats van een nieuwe attentietoestand per capaciteit. Het lanceringsbericht van IBM beweert dat het samengestelde model ongeveer hetzelfde VRAM gebruikt als het basismodel alleen; die specifieke bewering is niet gereproduceerd, maar de parameterdelta waarop ze berust, staat gewoon in het manifest. Dat is ook de reden waarom het lanceringsbericht een race tussen een samengestelde Granite Switch van 30B en een beslissingsmodel van 27B kan beschrijven als een snelheidsvoordeel in plaats van een geheugenstraf.

• Parameters — 8,78 miljard samengesteld (8,38 miljard basis) vs 8,2 miljard.

• Lagen — 40 vs 36.

• Context — 131.072 native versus 32.768 native, 131.072 met YaRN.

• Vocabulaire — 100.355 vs 151.936.

• Talen — twaalf met naam (Engels, Duits, Spaans, Frans, Japans, Portugees, Arabisch, Tsjechisch, Italiaans, Koreaans, Nederlands, Chinees) tegenover meer dan 100.

• Redenering — geen vs hybride denken en niet-denken in één checkpoint.

• Gestructureerde uitvoer — gekalibreerde softmax over labeltokens versus een keuze via prompting.

• Audio-in — ingebouwde 470M ASR-encoder vs. geen.

• Ecosysteem — twee dagen oud, geen noemenswaardige kwantisaties of fine-tunes tegenover zestien maanden communitywerk.

Waar Qwen3-8B nog steeds wint

Talen, beslissend. Twaalf benoemde talen tegenover meer dan honderd is geen afrondingsfout voor wie aan een wereldwijd publiek levert, en het is het eerste wat een migratietest zal tegenkomen. De vocabulaire vertelt hetzelfde verhaal: 151.936 tokens tegenover 100.355, waarbij de drie gereserveerde adapter-id's van Granite het op 100.355 afronden. Een model dat op honderd talen is getraind, is op honderd talen getraind.

Native context staat op de tweede plaats. 131.072 tokens out of the box tegenover 32.768 met een YaRN-extensiepad. Granite Switch 4.1 8B bereikt toevallig dezelfde 131K, maar bereikt die native, en YaRN-extensie heeft een prijs voor langcontextgedrag die een native venster niet heeft.

Het derde is wat bij de meeste daadwerkelijke migraties de doorslag geeft: er is niets stuk. Er is geen integratie om te herschrijven, geen servingstack om te wijzigen, geen gedrag om opnieuw te leren. Elke faalmodus is door iemand anders in kaart gebracht, en de fine-tunes die je mogelijk al hebt, zijn van jou. Een uitdager moet wezenlijk beter zijn wil het de moeite waard zijn om dat op te geven, en aangezien Granite Switch 4.1 8B pas twee dagen oud is en er geen onafhankelijke evaluatie is, heeft dit model niet aangetoond dat dit het geval is.

Waar Granite Switch 4.1 8B wint

Beslissingsscoring, en de operationele vorm die daarmee gepaard gaat. Als je applicatie een confidencewaarde over gelabelde opties nodig heeft — een ticket routeren, een escalatiedrempel scoren, een tool kiezen met een getal eraan vast — dan is dat een primitieve die Qwen3-8B niet biedt, en prompting produceert er geen. Het gepubliceerde cijfer voor deze adapter is de Decision Index, editie v0.3, publieke snelle subset van 1.068 rijen: 42,9 totaal, met Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 en Arts 18,0. IBM heeft het uitgevoerd, IBM heeft het gepubliceerd, niemand heeft het gereproduceerd, en de kaart zelf zegt dat de waarschijnlijkheden een prior zijn in plaats van een gecertificeerde classificatie op domeinen waarvoor de adapter niet is getraind.

Endpointconsolidatie is het tweede. Chat, beslissingen en transcriptie op één endpoint, waarbij transcriptie wordt geactiveerd door een gewoon input_audio-contentonderdeel in plaats van een tweede service. De kanttekeningen bij IBM's kaart gelden en verdienen het om in de geest nagenoeg letterlijk te worden herhaald: alleen Engels, uitvoer in kleine letters en zonder leestekens, en de spraak-encoder en het LLM zijn niet gezamenlijk getraind, dus een verkeerde transcriptie kan ongemerkt veranderen waarop het model reageert.

En componerbaarheid is het derde — de composer is openbaar, de adaptercatalogus is open, en je kunt je eigen variant bouwen in plaats van de keuze van IBM voor twee adapters te accepteren.

Wat te doen terwijl het 8B-slot leeg is

De productieve zet is niet om te migreren. Het is om Granite Switch 4.1 8B te behandelen als kandidaat voor de specifieke verzoeken die Qwen3-8B slecht afhandelt — degene die eindigen met een confidencewaarde, of die als audio binnenkomen — en al het andere te laten waar het is. Dat is een routeringsprobleem, geen herschrijving: stuur de calls in beslissingsvorm de ene kant op en het conversationele verkeer de andere, en houd het fallbackpad intact terwijl je erachter komt of de nieuwe vorm zich daadwerkelijk staande houdt op jouw verkeer.

Dit is de laag die OrcaRouter inneemt, en het is de moeite waard om precies te zijn over wat dat hier betekent: Qwen3-8B staat vandaag niet in onze catalogus en Granite Switch 4.1 8B ook niet, dus wij zijn geen manier om een van beide te verkrijgen — Qwen3-8B is een Hugging Face-download en Granite Switch 4.1 8B is een Hugging Face-download plus een vLLM-container. Wat het platform doet, is het omringende werk: één API-sleutel voor meer dan 200 gehoste modellen, automatische failover zodat een kandidaat in een live pad kan zitten zonder een single point of failure te zijn, de routing-DSL om meerdere modellen in één aanroep samen te stellen, en de lijstprijs van de provider doorgegeven tegen 0% opslag zodat een prijsverlaging van een leverancier dezelfde dag live is in plaats van bij de volgende verversing. Als je wilt zien hoe een Qwen van de huidige generatie eruitziet op een gehost endpoint terwijl je dit afweegt, Qwen3.8-27B staat in de catalogus en behoort tot dezelfde familie als de incumbent in deze vergelijking.

Kortom

Handhaaf Qwen3-8B als standaard. Zestien maanden in productie, meer dan honderd talen en een vocabulaire van 151.936 tokens zijn geen voordelen die een checkpoint van twee dagen oud louter op basis van architectuur overwint, en het feit dat Alibaba geen 8B-opvolger heeft uitgebracht, maakt Granite Switch 4.1 8B niet die opvolger — het maakt er een ander gereedschap van dat toevallig in dezelfde geheugenklasse terechtkomt. Neem het smal en specifiek in gebruik: voor verzoeken die een gekalibreerde verdeling over gelabelde opties nodig hebben, voor inline veiligheidsscreening, en voor audio op hetzelfde endpoint als chat. Test het op je eigen labelset voordat je 42,9 vertrouwt, want dat cijfer is van IBM en van IBM alleen. Het interessante aan deze krachtmeting is niet dat het ene model het andere verslaat — het is dat de 8B-plek leeg bleef, en dat het model dat die als volgende vult misschien helemaal geen dense 8B is.