Granite 4.2 30B vs Nemotron 3.5 Lightning: il pensatore e il realizzatore

Granite 4.2 30B e Nemotron 3.5 Lightning sono due modelli open-weight da 30B rilasciati a quattordici giorni di distanza con compiti quasi opposti. Nemotron 3.5 Lightning, rilasciato da NVIDIA l'11 agosto 2026, è un Mixture-of-Experts ibrido da 30B totali / 3B attivi — layer state-space Mamba-2, MoE e attenzione — progettato per essere il livello di esecuzione dei sistemi agente: chiamate di strumenti veloci, loop ad alto volume, lavoro dei sottoagenti, eseguito su una singola GPU. Granite 4.2 30B, che IBM ha pubblicato in silenzio su Hugging Face il 25 agosto 2026, è un modello di ragionamento denso da 29 miliardi di parametri — un pensatore, con modalità di pensiero selezionabili e apprendimento per rinforzo agentico, anche auto-ospitabile. Entrambi sono open (Apache 2.0 rispetto a OpenMDW-1.1), entrambi girano su hardware che un team può effettivamente possedere, ed entrambi sono rilasci di agosto i cui benchmark sono ancora essenzialmente riportati dai vendor. La domanda interessante non è quale sia migliore, ma quale ti serve — un pianificatore, un esecutore, o entrambi.

Quella divisione tra pianificatore ed esecutore non è un'invenzione editoriale; è il progetto stesso di NVIDIA. Nemotron 3.5 Lightning è stato distillato dal molto più grande Nemotron 3 Ultra proprio affinché un modello di frontiera potesse gestire la pianificazione mentre Lightning esegue il ciclo, e NVIDIA lo ha distribuito insieme a NeMo Switchyard, una libreria di instradamento che implementa esattamente quella divisione del lavoro. Granite 4.2 30B, al contrario, cerca di essere l'agente completo in un unico pacchetto da 30B.

Granite 4.2 30B, il pensatore

Il modello di punta di IBM Granite 4.2 è un Transformer denso solo decoder con tre modalità di ragionamento — pensiero completo (racchiuso in think>.../think> tag), pensiero a basso sforzo e nessun pensiero — oltre a chiamate di strumenti compatibili con OpenAI e apprendimento per rinforzo agentico che lo ha addestrato a operare su terminali, eseguire codice e cercare sul web in una sandbox. Il suo contesto nativo di 128K si estende a 512K. La scheda di IBM dichiara 89.17 su AIME 2025, 77.60 su MMLU-Pro e 57.00 su SWE-Bench Verified (in-harness) — tutti riportati dal fornitore, nessuno riprodotto in modo indipendente, e non esiste ancora una voce su Artificial Analysis. In breve, è un modello di ragionamento generalista che è stato fortemente orientato al lavoro agentico e viene distribuito in BF16 più FP8, NVFP4/MXFP4 e quantizzazioni GGUF, così che i team possano effettivamente eseguirlo.

Nemotron 3.5 Lightning, l'esecutore

L'ingresso di NVIDIA ha una forma completamente diversa. Il nome "30B A3B" indica 30 miliardi di parametri totali con solo circa 3 miliardi attivi per token — un'architettura ibrida che combina Mamba-2, MoE e attenzione, permettendo una generazione rapida ed economica. Include la decodifica speculativa integrata: head Multi-Token Prediction, oltre ai modelli draft DFlash e DSpark, così un piccolo drafter propone token che il modello principale verifica in parallelo. NVIDIA dichiara una velocità di output fino a 4 volte superiore rispetto a modelli di dimensioni simili, e il tutto gira su una singola GPU — una RTX 5090, DGX Spark o Jetson — oppure a 256K di contesto su una singola H100, con il modello che supporta in linea di principio fino a 1M di contesto. La sua licenza, OpenMDW-1.1, copre i pesi, i dati di addestramento e le ricette.

Il posizionamento di NVIDIA è diretto su ciò che Lightning non è: una valutazione da loro pubblicata ha mostrato scarse prestazioni su Terminal-Bench come agente primario — LLM Stats ha verificato in modo indipendente circa 24.6 su Terminal-Bench 2.1 — e il suggerimento è di usarlo come esecutore, non come pianificatore. I suoi punti di forza dichiarati sono MMLU Pro 81.94, GPQA Diamond 75.44, SWE-Bench Verified 51.56 e PinchBench con una precisione dell'86%, completando le attività circa il 30% più velocemente di un Qwen 3.6 35B con precisione simile. Ognuno di questi è un numero fornito da NVIDIA stessa.

Il tabellone, etichettato onestamente

Il confronto utile è la forma della colonna, non i valori delle righe:

• Granite 4.2 30B — ~29B denso, tutti i parametri attivi; Apache 2.0; 128K nativo / 512K esteso; modalità di ragionamento selezionabili per richiesta; SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24 dichiarati dal fornitore; il pensatore.

• Nemotron 3.5 Lightning — {{1}}30B totali / 3B attivi, MoE ibrido{{/1}}; {{2}}OpenMDW-1.1{{/2}}; {{3}}contesto da 1M (256K pratici su una singola H100){{/3}}; {{4}}decodifica speculativa (MTP/DFlash/DSpark){{/4}}; {{5}}SWE-Bench Verified 51.56 riportato dal fornitore, ~24.6 Terminal-Bench 2.1 (verificato da LLM Stats){{/5}}; {{6}}il factotum{{/6}}.

Leggi quelle righe come NVIDIA le intende: la debolezza di Lightning su Terminal-Bench è una caratteristica del suo design — non deve pianificare, deve eseguire. I numeri di Granite sono un singolo modello che afferma di fare entrambe le cose. Nessuno dei due set è riprodotto in modo indipendente al rilascio; entrambi lo saranno entro poche settimane.

Lo stack, non il modello

I due modelli sono meno concorrenti che componenti adiacenti dello stesso sistema. Un agente ha bisogno di un pianificatore per scomporre un compito e di un esecutore per macinare migliaia di chiamate agli strumenti. Granite 4.2 30B sta cercando di riunire entrambi in un unico modello denso; Nemotron 3.5 Lightning è esplicitamente la metà di uno stack a due modelli, con il modello di frontiera come altra metà. NVIDIA chiama questo stack NeMo Switchyard; un livello di instradamento fa la stessa cosa con qualsiasi combinazione di modelli ospitati e auto-ospitati.

È qui che trova posto la nota onesta sul routing. Nessuno dei due modelli è su OrcaRouter — non instradiamo né Granite 4.2 30B né Nemotron 3.5 Lightning, e la linea di disponibilità per entrambi è il tuo hardware o i canali del fornitore stesso. Ma il pattern a due modelli a cui puntano è esattamente ciò a cui serve un DSL di routing: componi un endpoint Granite self-hosted per i passaggi di ragionamento e un endpoint Lightning self-hosted per i loop di esecuzione, metti davanti un modello frontier ospitato per la pianificazione che richiede più margine, e gestisci tutti e tre da una sola API key con failover automatico. Non devi scegliere tra pensatore ed esecutore — puoi assemblare uno stack che usa ciascuno dove è forte, e lasciare che sia il router ad arbitrare.

Quale prima?

Se vuoi un unico modello da possedere, un solo codebase, un solo stack di serving, e sei disposto ad affidargli tutto il lavoro di ragionamento ed esecuzione, inizia con Granite 4.2 30B — ma aspetta il primo benchmark indipendente prima di fidarti del punteggio 57.00 SWE-Bench. Se stai costruendo un agente ad alto volume in cui la maggior parte delle chiamate sono brevi passaggi di tool e la latenza è il budget, inizia con Nemotron 3.5 Lightning e lascia che un modello di frontiera o un endpoint Granite faccia il ragionamento. Se stai costruendo qualcosa di serio, la risposta è: entrambi — una decisione che un confronto basato solo su 30B non avrebbe mai fatto emergere.