Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B: cosa significa "Switch" in ciascun nome

Entrambi questi modelli sono intorno ai 30B, entrambi hanno nel nome una parola che suona come routing, e con essa fanno cose completamente diverse. Granite Switch 4.1 30B — pesi sull'Hub dal 14 ottobre 2026 — commuta adattatori: un unico modello base denso, due moduli LoRA attivati, con ogni token che percorre l'intera rete. Nemotron 3.5 Lightning 30B A3B, che NVIDIA ha pubblicato l'11 agosto 2026, commuta esperti: uno stack ibrido Mamba-2 e MoE in cui solo circa 3 miliardi dei 30 miliardi di parametri si attivano per token. Nessuno ha messo a confronto i due modelli con dei benchmark e questo articolo non fingerà il contrario. Il confronto davvero utile è quanto costa ogni progettazione per token e cosa restituisce.

Cogliere correttamente la distinzione non è pedanteria, perché i nomi invitano esattamente all'inferenza sbagliata. "Switch" in Granite Switch si riferisce a un livello di switch leggero che legge i token di controllo nell'input e indica a ciascun livello del decoder quali pesi LoRA applicare su quell'intervallo di token. Non è un routing mixture-of-experts e non riduce il calcolo per token di un singolo FLOP. "A3B" nel nome di NVIDIA è l'opposto: è un'affermazione esplicita su quanto poco del modello venga eseguito al momento dell'inferenza.

Il tabellone dei punteggi, dimensione per dimensione

• Parametri — Granite Switch 4.1 30B ammonta a 29,989,814,272 su una base di 28,865,728,512 (+3,89%); Nemotron 3.5 Lightning 30B A3B è di 30B totali con circa 3B attivi per token.

• Architettura — un transformer decoder-only denso più due adattatori LoRA attivati rispetto a un ibrido intercalato di Mamba-2, MoE e attention.

• Calcolo per token — forward pass denso completo da 30B rispetto a circa un decimo di quello nei parametri attivi, che è tutto il senso del suffisso A3B.

• Contesto — 131.072 token sul checkpoint Switch; fino a 1M su Nemotron Lightning, con NVIDIA che documenta 256K come valore pratico su una singola H100.

• Modalità di ragionamento — nessuna nel template chat di Switch; un configurabile enable_thinking toggle in quello di Nemotron.

• Ingresso audio — un encoder vocale da 470M integrato sul modello Switch; nessuno sul lato NVIDIA.

• Licenza — Apache-2.0 rispetto a OpenMDW-1.1. Non sono lo stesso documento e i termini a valle differiscono; leggi quello in base al quale stai effettivamente distribuendo.

• Hardware — la scheda Switch elenca Transformers e vLLM all'interno di una finestra di versione ristretta; NVIDIA documenta Nemotron Lightning su una singola H100 o A100 80GB, con una build NVFP4 destinata al deployment.

Che cosa ti offre davvero il checkpoint di Granite Switch

La composizione è il prodotto. Granite Switch 4.1 30B congela Granite 4.1 30B e collega due adattatori — un classificatore di sicurezza guardian-core di rango 16 sulle proiezioni di attenzione e un adattatore decision di rango 64 su tutte e sette le proiezioni — più l'encoder vocale. La selezione dell'adattatore avviene tramite il template di chat quando si passa un adapter_name, quindi è un parametro della richiesta, non un secondo servizio.

Quello che si ottiene è densità di capacità: un verdetto di sicurezza, una distribuzione di opzioni calibrata e una trascrizione da un unico processo, per 1,12 miliardi di parametri aggiuntivi oltre a una base che avresti comunque caricato. Sei mesi fa lo stesso progetto ha rilasciato un checkpoint di anteprima con dodici adattatori a un sovrapprezzo dell'11,68%; la versione finale li ha ridotti a due al 3,89%, il che equivale a IBM che scambia copertura per leggibilità. Gli altri dieci adattatori esistono ancora e il composer ti costruirà un checkpoint con qualsiasi sottoinsieme.

I costi si collocano esattamente dove ci si aspetterebbe. Nulla nel meccanismo degli adapter rende più veloce il modello di base, perché il modello di base è denso e intatto — ogni token esegue comunque l'intera rete. Il percorso vocale è solo in inglese, minuscolo, senza punteggiatura e, per usare le parole di IBM, non addestrato congiuntamente con il modello linguistico, quindi una trascrizione errata cambia silenziosamente la domanda a cui il modello risponde. E il checkpoint viene distribuito in una sola precisione, senza alcuna build quantizzata ufficiale, a fronte di un modello NVIDIA la cui variante NVFP4 consigliata per il deployment è presente sull'Hub da inizio agosto.

Cosa misurano effettivamente i numeri di Nemotron

La tabella di benchmark di NVIDIA per Nemotron 3.5 Lightning 30B A3B è più completa di quella di IBM per il modello Switch, e vale la pena leggere la nota a piè di pagina a essa allegata. Le cifre — MMLU-Pro 81,94, GPQA Diamond 75,44, SWE-bench Verified 51,56, Terminal-Bench 2.1 24,58, PinchBench 85,37, AA-LCR 52,00 su contesto lungo — sono descritte da NVIDIA come misurate nell'ambito del proprio harness coerente, con l'avvertenza che possono differire dai numeri autodichiarati di altri fornitori. Questa è un'inquadratura più onesta di quanto riescano a fare la maggior parte delle schede, e li lascia comunque come dati riportati dal fornitore. NVIDIA ha pubblicato le ricette in NeMo Gym affinché le esecuzioni siano riproducibili da qualcun altro, il che non equivale al fatto che qualcun altro le abbia riprodotte.

L'affermazione più interessante è quella sulla velocità piuttosto che sull'accuratezza. Un modello da 30B con 3B parametri attivi è una scommessa sul fatto che la maggior parte del lavoro agentico non abbia bisogno che l'intera rete si attivi su ogni token, e NVIDIA ha introdotto la decodifica speculativa insieme a esso — teste di previsione multi-token più i drafter DFlash e DSpark — per spingere ulteriormente il throughput. Inoltre posiziona Lightning come uno strato di esecuzione al di sotto di un planner più grande, piuttosto che come il modello a cui porre domande difficili. Quel posizionamento è di NVIDIA, ed è anche la lente giusta per la tabella di benchmark: l'efficienza a livello di token è ciò che si vede in una fattura.

La trappola nel mettere insieme questi due tabelloni

C'è un unico numero pubblicato per la capacità di punta del modello Switch — il Decision Index, edizione v0.3, sottoinsieme pubblico rapido di 1.068 righe, Complessivo 50,1, con Conoscenza 32,4, Linguaggio 58,6, Recupero 49,8, Strumenti 76,5 e Arti 26,4 — e c'è una tabella benchmark completa per Nemotron Lightning. Mettere 50,1 accanto a 81,94 o 51,56 sarebbe un errore di categoria del tipo più puro.

Il Decision Index valuta quanto bene il adattatore decisionale ordina un insieme fisso di opzioni etichettate. Non è una misura della qualità di chat o di ragionamento del modello di base, e il modello di base non viene modificato dall'adattatore. La tabella di Nemotron valuta l'intero modello su conoscenza, ragionamento, coding e contesto lungo. Assi diversi, harness diversi, autori diversi e nessun benchmark condiviso tra loro. Entrambi sono dichiarati dal fornitore. Nessuno dei due è comparabile con l'altro, e l'unica cosa onesta da fare con la coppia è rifiutarsi di sottrarli.

Ciò che puoi legittimamente fare è leggere la forma di ciascuno. Il 76,5 del Decision Index su Strumenti contro il 26,4 su Arti dice che vale la pena indirizzare l'adapter verso decisioni di selezione degli strumenti e che non ci si dovrebbe fidare di esso per la classificazione open-domain senza una tua valutazione. Il 51,56 di Nemotron su SWE-bench Verified contro un miglior risultato di 70,12 nella stessa tabella ti dice che non è l'agente di coding più forte nel suo stesso insieme di confronto — NVIDIA ha inserito il numero più alto di un concorrente nella propria tabella, il che è quantomeno un segnale da rispettare.

Quale, per cosa

Se il tuo problema è un lungo ciclo di agente che esegue migliaia di brevi decisioni sugli strumenti, l'economia dei parametri indica una direzione precisa: un MoE con 3B attivi su una singola GPU svolgerà quel lavoro a una frazione del costo per token di un denso 30B, e il modello Switch non ha alcun meccanismo per colmare questo divario, perché il suo "switch" non riduce mai il calcolo. Aggiungi il contesto da 1M e il toggle del ragionamento, e il modello di NVIDIA è semplicemente costruito per quel carico di lavoro.

Se il tuo problema è un unico processo che deve rispondere a un utente, emettere una decisione di routing calibrata e trascrivere ciò che l'utente ha detto, l'aritmetica si inverte. Nemotron 3.5 Lightning non ha una testa decisionale e nemmeno un percorso audio, e chiedere a un modello di chat di rispondere cortesemente con una sola lettera non è una distribuzione calibrata. Granite Switch 4.1 30B ti offre tutte e tre le cose da un unico checkpoint con meno del 4% in più di pesi rispetto alla sua base, e questa è una capacità che non puoi acquistare scegliendo un modello migliore.

Il terzo caso onesto è quello più comune: non stai affatto scegliendo tra questi. Entrambi sono artefatti self-host, entrambi sono Apache-2.0 o OpenMDW-1.1 anziché un endpoint ospitato, e nessuno dei due è stato valutato in modo indipendente. Granite Switch 4.1 30B ha due giorni con un singolo valore pubblicato; Nemotron 3.5 Lightning ha due mesi con una tabella del fornitore e ricette pubblicate. Non basta per pianificare una migrazione.

Ottenere una vera risposta senza una migrazione

Nessuno dei due modelli è oggi nel catalogo OrcaRouter, quindi entrambi implicano il tuo hardware e i canali di rilascio propri del fornitore: quelli di IBM per il checkpoint Switch, quelli di NVIDIA per Lightning. Dire diversamente significherebbe inventare un endpoint.

Il punto in cui la piattaforma si guadagna il suo posto è che un candidato dovrebbe essere economico da testare. Una sola chiave copre oltre 200 modelli con failover automatico e trasferisce il prezzo di listino del provider con 0% di markup, così quando compare una rotta ospitata verso l'uno o l'altro modello, affiancarlo al modello già in produzione è una modifica di configurazione anziché un ciclo di approvvigionamento. Davanti a due modelli open-weight da 30B che sulla carta sembrano entrambi ragionevoli e che nessuno al di fuori del rispettivo fornitore ha misurato, la decisione che conta non è a quale scheda credere. È quanto economicamente puoi scoprirlo.

Il risultato finale

Granite Switch 4.1 30B e Nemotron 3.5 Lightning 30B A3B condividono un numero di parametri e quasi nient'altro. Uno è una base densa con adattatori commutabili che ti offre tre lavori per processo a pieno calcolo denso per token; l'altro è un ibrido sparso progettato per far costare ogni token il meno possibile e per eseguire un lungo loop su una singola GPU. Scegli in base alla forma del carico di lavoro, non a una tabella di benchmark — e se devi trarre una cosa sola da questo, trai la correzione nei nomi: la commutazione degli adattatori ti dà capacità, la sparsità degli esperti ti dà throughput, e nessun modello qui ti dà entrambe le cose.