Granite Switch 4.1 8B vs Qwen3-8B: Vad händer när den andra sidan inte har någon efterträdare

Börja med ett namngivningsproblem, eftersom det förändrar vad den här artikeln ärligt kan vara. När du söker efter 8B-modellen i Alibabas nyaste Qwen-generation hittar du ingen: Qwen3.8-serien – Qwen3.8-27B, Qwen3.8-Max, Flash-varianterna, den enorma 2.4T-A95B-expertsblandningen – innehåller helt enkelt ingen tät 8B-modell. 8B-platsen i Qwen-familjen upptas fortfarande av Qwen3-8B, släppt 27 april 2025: 8,2 miljarder parametrar, hybridt tänkande och icke-tänkande i en och samma modell, över 100 språk och dialekter, 32 768 tokens inbyggd kontext som sträcker sig till 131 072 med YaRN. Den modellen är sexton månader gammal och fortfarande en av de mest nedladdade checkpointarna med öppna vikter som finns. Den är den sittande – och det som gör den här jämförelsen värd att skriva om är att Granite Switch 4.1 8B, IBM:s sammansatta checkpoint från 14 oktober 2026, inte alls erbjuder att ersätta den med en efterträdare. Den erbjuder en annan form av modell i samma parameterklass: en fryst 8B-textmodell med två växlingsbara adaptrar och en påhängd talencoder, som utför tre uppgifter genom att växla i stället för en uppgift genom att resonera. Ingen har ersatt Qwen3-8B, och den bättre frågan är om någon behöver det.

Mot det står Granite Switch 4.1 8B, IBM:s sammansatta checkpoint från 14 oktober 2026 — en fryst Granite 4.1 8B med 8 380 551 168 parametrar som bär två växlingsbara aktiverade LoRA-adaptrar och en 470M-talencoder, för ett sammansatt totalt antal av 8 776 400 896, en uppgång med 4,72 %. Samma parameterklass, helt annan uppfattning om vad en modell är. Qwen3-8B är en tät stack som gör allt genom att resonera om det. Granite Switch 4.1 8B är en stack som inte gör något genom resonemang och tre saker genom att växla.

8B-platsen är tom, och det är den egentliga historien.

Det är värt att stanna upp vid frånvaron i stället för att behandla den som en lucka i den här jämförelsen. Alibaba släppte Qwen3.8-generationen med en 27B tät modell, Max- och Flash-varianter samt en mixture-of-experts med 2,4 biljoner parametrar, och hoppade över den storleksklass som gjorde den föregående generationen till ett självklart val för driftsättning på en enda GPU. Varje team som valde Qwen3-8B eftersom den fick plats på ett kort och kunde finjusteras billigt tittar nu på en efterföljarserie som antingen fördubblar minneskravet eller förändrar serveringsproblemet helt och hållet.

Det är det faktiska beslutet som den här artikeln handlar om. Ingen väljer mellan Qwen3-8B och Granite Switch 4.1 8B utifrån kvalitet – en sexton månader gammal sittande modell mot en två dagar gammal utmanare utan oberoende utvärdering är inte en kvalitetsjämförelse, det är en kunskapsjämförelse. Frågan är vad man gör när sin arbetshäst inte har någon efterträdare i samma storlek, och de två möjliga svaren är "behåll arbetshästen" och "byt form".

Qwen3-8B: vad sexton månaders produktion ger

Qwen3-8B är en tät kausal transformer med 36 lager, dold storlek 4 096, grupperad query-attention med 32 query-huvuden mot 8 KV-huvuden, en intermediär storlek på 12 288, RoPE-theta 1e6, obundna inbäddningar och ett token-vokabulär på 151 936. Ungefär 8,2 miljarder parametrar, varav cirka 6,95 miljarder är icke-inbäddningsparametrar. Tänkandebrytaren är en parameter – enable_thinking – och genereringsinställningarna skiljer sig åt beroende på läge, där modellkortet uttryckligen varnar för girig avkodning i tänkandeläge eftersom det orsakar upprepningsloopar.

Vad den har som ingen ny checkpoint kan hävda: sexton månader av andras produktionstrafik. Felmoder som någon annan redan har stött på och dokumenterat. Kvantiseringar, finjusteringar, LoRA-recept och driftsättningsguider för alla serveringsramverk som spelar roll. Nästan tio miljoner Hub-nedladdningar och över två tusen gillningar, med en instruct-härstamning bakom sig. När en modell har varit offentlig så länge är ekosystemet runt den en verklig del av dess kapacitet, och inget releasedatum kan bakdateras in i det.

Granite Switch 4.1 8B: vad en ny form ger

IBM:s checkpoint är en sammansättning snarare än en modell, och delarna dokumenteras i ett build-manifest som checkats in bredvid vikterna. Bas: Granite 4.1 8B, 40 lager, dold storlek 4 096, 32 query-huvuden mot 8 KV-huvuden, fönster på 131 072 token, vokabulär på 100 352 token. Adaptrar: guardian-core, rank 16, alpha 64, över attention-projektionerna (k_proj, o_proj, q_proj, v_proj), som upptäcker skada, jailbreaking, svordomar, våld, sexuellt innehåll, social bias och oetiskt beteende; och decision, rank 64, alpha 128, över alla sju projektioner inklusive MLP:n, som returnerar en kalibrerad softmax över märkta alternativtoken i en enda framåtpassning. Kodare: Granite Speech 5.0 TurboCTC, 470M parametrar, icke-autoregressiv conformer-CTC, engelska. Licens: Apache-2.0, samma som Qwen3-8B.

Den funktion som inte har någon motsvarighet i Qwen3-8B är beslutsadaptern. Du ger den ett tillstånd och en fråga med märkta alternativ och den returnerar en fördelning, inte ett svar — det dokumenterade anropet begär logprobs från vLLM för exakt etikett-token-id:na genom logprob_token_ids och exponentierar, vilket ger utdata av formen A: 0.982, B: 0.0035, C: 0.014. Du kan be Qwen3-8B att välja en etikett och den kommer, på ett kompetent sätt, att göra det, och du får en bokstav. En bokstav kan inte tröskelvärdesbedömas som en kalibrerad poäng, medelvärdesberäknas över turer eller loggas som ett konfidensvärde. Det är skillnaden, och det är inte en skillnad som skalning åtgärdar.

Det andra som kompositionen ger är aritmetik. Varje adapter delar basmodellens nyckel/värde-cache i stället för att upprätthålla sin egen, så att gå från inga adaptrar till två plus en taluppkodare kostar 4,72 % i parametrar i stället för ett nytt attention-tillstånd per förmåga. IBMs lanseringsinlägg hävdar att den komponerade modellen tar ungefär lika mycket VRAM som basmodellen ensam; det specifika påståendet har inte reproducerats, men parameterdeltat som det vilar på finns direkt i manifestet. Det är också därför lanseringsinlägget kan beskriva en kapplöpning mellan en komponerad Granite Switch på 30B och en beslutsmodell på 27B som en hastighetsfördel snarare än ett minnesstraff.

• Parametrar — 8,78B sammansatt (8,38B bas) mot 8,2B.

• Lager — 40 mot 36.

• Kontext — 131 072 inbyggd vs 32 768 inbyggd, 131 072 med YaRN.

• Ordförråd — 100 355 vs 151 936.

• Språk — tolv namngivna (engelska, tyska, spanska, franska, japanska, portugisiska, arabiska, tjeckiska, italienska, koreanska, nederländska, kinesiska) mot 100+.

• Resonemang — ingen kontra hybridt tänkande och icke-tänkande i en och samma checkpoint.

• Strukturerad utdata — kalibrerad softmax över etiketttokens kontra promptat val.

• Ljud in — inbäddad 470M ASR-kodare mot ingen.

• Ekosystem — två dagar gammalt, inga kvantiseringar eller finjusteringar att tala om jämfört med sexton månaders communityarbete.

Där Qwen3-8B fortfarande vinner

Språk, onekligen. Tolv namngivna språk mot över hundra är inte ett avrundningsfel för någon som levererar till en global publik, och det är det första ett migreringstest kommer att upptäcka. Ordförrådet berättar samma historia: 151 936 tokens mot 100 355, där Granites tre reserverade adapter-ID:n rundar av det till 100 355. En modell tränad över hundra språk har tränats över hundra språk.

Inbyggd kontext är den andra. 131 072 tokens direkt ur lådan mot 32 768 med en YaRN-förlängningsväg. Granite Switch 4.1 8B råkar nå samma 131K, men det når dit på ett inbyggt sätt, och YaRN-förlängning har en kostnad i långkontextbeteende som ett inbyggt fönster inte har.

Den tredje är den som avgör de flesta verkliga migreringar: ingenting är trasigt. Det finns ingen integration att skriva om, ingen serveringsstack att ändra, inget beteende att lära om. Varje felmod har kartlagts av någon annan, och de finjusteringar du kanske redan har är dina. En utmanare måste vara meningsfullt bättre för att det ska vara värt att ge upp, och med bara två dagars ålder och ingen oberoende utvärdering har Granite Switch 4.1 8B inte visat att den är det.

Där Granite Switch 4.1 8B vinner

Beslutspoängsättning, och den operativa formen som följer med den. Om din applikation behöver ett konfidensvärde över märkta alternativ – routa ett ärende, poängsätta en eskaleringsgräns, välja ett verktyg med en siffra kopplad till – så är det en primitiv som Qwen3-8B inte tillhandahåller, och promptning skapar inte en. Den publicerade siffran för den här adaptern är Decision Index, utgåva v0.3 offentlig snabb delmängd på 1 068 rader: 42,9 totalt, med Knowledge 29,1, Language 48,9, Retrieval 49,8, Tools 59,8 och Arts 18,0. IBM körde den, IBM publicerade den, ingen har reproducerat den, och kortet självt säger att sannolikheterna är en prior snarare än en certifierad klassificering på domäner som adaptern inte tränades för.

Konsolidering av slutpunkter är den andra. Chatt, beslut och transkribering på en och samma slutpunkt, där transkribering utlöses av en vanlig input_audio-innehållsdel i stället för en andra tjänst. Förbehållen från IBM:s kort gäller och är värda att upprepa i sak, ordagrant: endast engelska, utdata i gemener och utan skiljetecken, och talencodern och LLM:en är inte gemensamt tränade, så en felaktig transkribering kan i tysthet ändra vad modellen svarar på.

Och komponerbarhet är det tredje — kompositören är offentlig, adapterkatalogen är öppen, och du kan bygga din egen variant i stället för att acceptera IBMs val av två adaptrar.

Vad man kan göra medan 8B-platsen är tom

Det produktiva draget är inte att migrera. Det är att behandla Granite Switch 4.1 8B som en kandidat för de specifika förfrågningar som Qwen3-8B hanterar dåligt – de som slutar i ett konfidensvärde, eller som kommer in som ljud – och lämna allt annat där det är. Det är ett routingproblem, inte en omskrivning: skicka de beslutsformade anropen åt ena hållet och den konversationella trafiken åt det andra, och håll reservvägen intakt medan du tar reda på om den nya formen faktiskt håller för din trafik.

Detta är det lager som OrcaRouter utgör, och det är värt att vara precis om vad det innebär här: Qwen3-8B finns inte i vår katalog i dag och inte heller Granite Switch 4.1 8B, så vi är inte ett sätt att få någon av dem — Qwen3-8B är en nedladdning från Hugging Face och Granite Switch 4.1 8B är en nedladdning från Hugging Face plus en vLLM-container. Vad plattformen gör är det omkringliggande arbetet: en API-nyckel över 200+ hostade modeller, automatisk failover så att en kandidat kan ligga i en live-väg utan att vara en enda felpunkt, routing-DSL:en för att komponera flera modeller till ett anrop, och leverantörens listpris som vidarebefordras med 0 % påslag så att en leverantörs prissänkning slår igenom samma dag i stället för vid nästa uppdatering. Om du vill se hur en Qwen av aktuell generation ser ut på en hostad endpoint medan du överväger detta, Qwen3.8-27B finns i katalogen och tillhör samma familj som den befintliga modellen i denna jämförelse.

Slutsats

Behåll Qwen3-8B som standard. Sexton månader i produktion, över hundra språk och ett ordförråd på 151 936 token är inte fördelar som en två dagar gammal checkpoint övervinner enbart genom arkitektur, och att Alibaba inte släppte en 8B-efterträdare gör inte Granite Switch 4.1 8B till den efterträdaren – det gör den till ett annat verktyg som råkar hamna i samma minnesklass. Använd den snävt och specifikt: för förfrågningar som behöver en kalibrerad fördelning över märkta alternativ, för inline-säkerhetsgranskning och för ljud på samma slutpunkt som chatt. Testa den på din egen uppsättning etiketter innan du litar på 42,9, eftersom det talet är IBM:s och endast IBM:s. Det intressanta med den här matchen är inte att den ena modellen slår den andra – det är att 8B-platsen förblev tom, och modellen som fyller den härnäst kanske inte alls är en dense 8B.