Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B: Vad "Switch" betyder i varje namn

Båda dessa modeller är runt 30B, båda har ett ord i namnet som låter som routing, och de gör helt olika saker med det. Granite Switch 4.1 30B — vikter på Hubben sedan 14 oktober 2026 — växlar adaptrar: en dense basmodell, två aktiverade LoRA-tillägg, där varje token kör hela nätverket. Nemotron 3.5 Lightning 30B A3B, som NVIDIA publicerade den 11 augusti 2026, växlar experter: en hybridstack av Mamba-2 och MoE där bara omkring 3 miljarder av de 30 miljarderna parametrar aktiveras per token. Ingen har benchmarkat de två mot varandra och den här artikeln tänker inte låtsas något annat. Den verkligt användbara jämförelsen är vad varje design kostar dig per token och vad den ger tillbaka.

Att få denna distinktion rätt är inte pedanteri, eftersom namnen inbjuder till exakt fel slutsats. ”Switch” i Granite Switch syftar på ett lättviktigt switchlager som läser kontrolltokens i indata och talar om för varje decoderlager vilka LoRA-vikter som ska tillämpas över den tokenföljden. Det är inte mixture-of-experts-routing och det minskar inte beräkningskostnaden per token med en enda FLOP. ”A3B” i NVIDIAs namn är motsatsen: det är ett uttalat påstående om hur liten del av modellen som körs vid inferens.

Resultattavlan, dimension för dimension

• Parametrar — Granite Switch 4.1 30B uppgår till 29 989 814 272 ovanpå en bas på 28 865 728 512 (+3,89 %); Nemotron 3.5 Lightning 30B A3B är 30B totalt med ungefär 3B aktiva per token.

• Arkitektur — en tät decoder-only-transformer plus två aktiverade LoRA-adaptrar kontra en interfolierad hybrid av Mamba-2, MoE och attention.

• Beräkning per token — fullständig tät 30B-framåtpassning jämfört med ungefär en tiondel av det i aktiva parametrar, vilket är hela poängen med A3B-suffixet.

• Kontext — 131 072 token i Switch-checkpointen; upp till 1M i Nemotron Lightning, där NVIDIA anger 256K som den praktiska siffran på en enda H100.

• Resonemangsläge – ingen i Switch-chattmallen; en konfigurerbar enable_thinking-växlingsknapp i Nemotrons.

• Ljudingång — en inbäddad 470M-talencoder i Switch-modellen; ingen på NVIDIA-sidan.

• Licens — Apache-2.0 kontra OpenMDW-1.1. De är inte samma dokument och nedströmsvillkoren skiljer sig; läs den som du faktiskt distribuerar under.

• Hårdvara — Switch-kortet listar Transformers och vLLM inom ett snävt versionsfönster; NVIDIA dokumenterar Nemotron Lightning på en enda H100 eller A100 80GB, med en NVFP4-build avsedd för driftsättning.

Vad Granite Switch-checkpointen faktiskt ger dig

Sammansättningen är produkten. Granite Switch 4.1 30B fryser Granite 4.1 30B och fäster två adaptrar — en rank-16 guardian-core säkerhetsklassificerare på attention-projektionerna och en rank-64 decision-adapter över alla sju projektionerna — plus talencodern. Adapterval sker via chattmallen när du skickar en adapter_name, så det är en förfrågningsparameter, inte en andra tjänst.

Det man får för det är kapacitetstäthet: ett säkerhetsomdöme, en kalibrerad alternativfördelning och ett transkript ur en och samma process, för 1,12 miljarder extra parametrar ovanpå en bas som du ändå skulle ladda. För sex månader sedan släppte samma projekt en förhandsvisningscheckpoint med tolv adaptrar till ett påslag på 11,68 %; den färdiga versionen skar ned det till två vid 3,89 %, vilket är IBM som byter bort täckning för läsbarhet. De övriga tio adaptrarna finns fortfarande kvar, och kompositören kan bygga en checkpoint åt dig med valfri delmängd.

Kostnaderna ligger precis där man förväntar sig. Inget i adaptermaskineriet gör basmodellen snabbare, eftersom basmodellen är dense och orörd – varje token kör fortfarande hela nätverket. Talvägen är enbart engelska, med gemener, utan skiljetecken och, med IBM:s egna ord, inte tränad tillsammans med språkmodellen, så en feltranskription förändrar tyst frågan som modellen besvarar. Och checkpointen levereras i en enda precision utan någon officiell kvantiserad version, gentemot en NVIDIA-modell vars deploy-rekommenderade NVFP4-variant har funnits på Hub sedan början av augusti.

Vad Nemotron-siffrorna faktiskt mäter

NVIDIA:s benchmarktabell för Nemotron 3.5 Lightning 30B A3B är fylligare än IBM:s är för Switch-modellen, och det är värt att läsa fotnoten som hör till den. Siffrorna – MMLU-Pro 81,94, GPQA Diamond 75,44, SWE-bench Verified 51,56, Terminal-Bench 2.1 24,58, PinchBench 85,37, AA-LCR 52,00 på lång kontext – beskrivs av NVIDIA som uppmätta i deras egen enhetliga testmiljö, med förbehållet att de kan skilja sig från andra leverantörers självrapporterade siffror. Det är en ärligare inramning än de flesta modellkort lyckas med, och det innebär fortfarande att de är leverantörsrapporterade. NVIDIA publicerade recepten i NeMo Gym så att körningarna kan reproduceras av någon annan, vilket inte är samma sak som att någon annan har reproducerat dem.

Det mer intressanta påståendet är det om hastighet snarare än noggrannhet. En 30B-modell med 3B aktiva parametrar är en satsning på att det mesta agentiska arbetet inte behöver låta hela nätverket aktiveras för varje token, och NVIDIA levererade spekulativ avkodning tillsammans med den – multi-token-förutsägelsehuvuden plus DFlash- och DSpark-draftmodellerna – för att öka genomströmningen ytterligare. NVIDIA positionerar också Lightning som ett exekveringslager under en större planerare snarare än som modellen man ställer svåra frågor till. Den positioneringen är NVIDIAs, och den är rätt lins även för benchmarktabellen: effektivitet på tokennivå är det som syns i en faktura.

Fällan med att sätta ihop dessa två resultattavlor

Det finns ett nummer publicerat för Switch-modellens främsta förmåga – Decision Index, utgåva v0.3, offentlig snabb delmängd av 1 068 rader, Totalt 50,1, med Kunskap 32,4, Språk 58,6, Hämtning 49,8, Verktyg 76,5 och Konst 26,4 – och det finns en fullständig benchmarktabell för Nemotron Lightning. Att placera 50,1 bredvid 81,94 eller 51,56 vore ett kategorimisstag av renaste slag.

Decision Index mäter hur väl beslutsadaptern rangordnar en fast uppsättning märkta alternativ. Det är inte ett mått på basmodellens chatt- eller resonemangskvalitet, och basmodellen ändras inte av adaptern. Nemotrons tabell poängsätter hela modellen på kunskap, resonemang, kodning och lång kontext. Olika axlar, olika ramverk, olika författare och ingen gemensam benchmark dem emellan. Båda är leverantörsrapporterade. Ingen av dem är jämförbar med den andra, och det enda ärliga att göra med paret är att vägra subtrahera dem.

Vad du med fog kan göra är att läsa av formen hos var och en. Decision Index 76,5 på Tools mot 26,4 på Arts säger att adaptern är värd att rikta mot beslut om verktygsval och inte bör litas på för klassificering av öppna domäner utan din egen utvärdering. Nemotrons 51,56 på SWE-bench Verified mot det bästa resultatet i samma tabell på 70,12 säger att den inte är den starkaste kodningsagenten i sin egen jämförelseuppsättning — NVIDIA satte en konkurrents högre siffra i sin egen tabell, vilket åtminstone är en signal värd att respektera.

Vilken, för vad?

Om ditt problem är en lång agentloop som kör tusentals korta verktygsbeslut, pekar parameterekonomi åt ett håll: en MoE med 3B aktiva parametrar på en enda GPU kommer att utföra det arbetet till en bråkdel av kostnaden per token jämfört med en tät 30B, och Switch-modellen har ingen mekanism för att överbrygga gapet, eftersom dess "switch" aldrig minskar beräkningsmängden. Lägg till 1M-kontexten och växlingsknappen för resonemang, och NVIDIAs modell är helt enkelt byggd för den arbetsbelastningen.

Om ditt problem är en enda process som måste svara en användare, avge ett kalibrerat routingbeslut och transkribera vad användaren sade, inverteras aritmetiken. Nemotron 3.5 Lightning har inget beslutshuvud och ingen ljudväg alls, och att prompta en chattmodell att snälla svara med en bokstav är inte en kalibrerad fördelning. Granite Switch 4.1 30B ger dig alla tre från en och samma checkpoint för under 4 % fler vikter än dess basmodell, och det är en förmåga du inte kan köpa genom att välja en bättre modell.

Det ärliga tredje fallet är det vanligaste: du väljer inte alls mellan dessa. Båda är self-host-artefakter, båda är Apache-2.0 eller OpenMDW-1.1 snarare än en hostad slutpunkt, och ingen av dem har utvärderats oberoende. Granite Switch 4.1 30B är två dagar gammal med en enda publicerad siffra; Nemotron 3.5 Lightning är två månader gammal med en leverantörstabell och publicerade recept. Det är inte tillräckligt för att planera en migrering utifrån.

Att få ett riktigt svar utan en migrering

Ingen av modellerna finns i OrcaRouters katalog i dag, så båda innebär din egen hårdvara och leverantörens egna releasekanaler — IBMs för Switch-checkpointen, NVIDIAs för Lightning. Att säga något annat vore att hitta på en endpoint.

Det som gör att plattformen förtjänar sin plats är att en kandidat bör vara billig att testa. En nyckel täcker fler än 200 modeller med automatisk failover och för vidare leverantörens listpris med 0 % påslag, så när en hostad rutt till någon av modellerna dyker upp är att sätta den bredvid modellen som redan är i produktion en konfigurationsändring snarare än en upphandlingscykel. Inför två 30B-modeller med öppna vikter som båda verkar rimliga på papper och som ingen utanför respektive leverantör har mätt, är beslutet som spelar roll inte vilket kort du tror på. Det är hur billigt du kan ta reda på det.

Slutsats

Granite Switch 4.1 30B och Nemotron 3.5 Lightning 30B A3B delar ett parameterantal och nästan inget annat. Den ena är en tät bas med växlingsbara adaptrar som ger dig tre jobb per process vid full tät beräkning per token; den andra är en gles hybrid byggd för att få varje token att kosta så lite som möjligt och för att köra en lång loop på en enda GPU. Välj utifrån arbetsbelastningens form, inte utifrån en benchmarktabell – och om du tar med dig en sak från detta, ta rättelsen i namnen: adapterväxling ger dig kapacitet, expertgleshet ger dig genomströmning, och ingen modell här ger dig båda.