
NVIDIA Nemotron 3.5 Lightning 30B A3B: il cavallo di battaglia open agent di Nvidia, spiegato
- GoogleNUOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1M di token · 89 tok/s
- AnthropicNUOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1M di token · 97 tok/s
- orcaNUOVOOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaNUOVOOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1M di token · 88 tok/s
- OrcaNUOVOOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1M di token · 133 tok/s
- OrcaNUOVOOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 per 1M di token · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1M di token · 123 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1M di token · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M di token · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M di token · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligenza
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1M di token · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligenza
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1M di token · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligenza
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligenza
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 per 1M di token · 138 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Intelligenza
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Intelligenza
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 per 1M di token · 189 tok/s
Nvidia ha annunciato Nemotron 3.5 Lightning l'11 agosto 2026 e lo ha distribuito con qualcosa che la maggior parte dei lanci di modelli tralascia: un router. NeMo Switchyard, una libreria open-source che decide quale modello debba gestire la chiamata successiva all'interno di un loop di agenti, è arrivata lo stesso giorno di un modello mixture-of-experts da 30 miliardi di parametri con appena 3 miliardi di parametri attivi — ed è proprio questo il punto. Questo approfondimento riguarda il checkpoint che Nvidia ha rilasciato per primo, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, la base pre-addestrata grezza piuttosto che il riferimento ottimizzato per la chat, e ciò che l'intera famiglia rivela sulla direzione del serving di modelli aperti.
Una nota sulle fonti prima dei numeri: ogni benchmark, affermazione sulle prestazioni e cifra sui partner in questo articolo proviene da Nvidia, e nulla è stato ancora riprodotto in modo indipendente — il modello ha solo poche ore. Tratta i dati sulle prestazioni come una scheda del fornitore: informativi e indicativi, non ancora una classifica.
Cosa è realmente Nemotron 3.5 Lightning
Nemotron 3.5 Lightning è il membro più recente e più piccolo della famiglia open Nemotron 3 di Nvidia. È un MoE da 30 miliardi di parametri con solo 3 miliardi attivi per token, costruito su un'architettura ibrida Mamba-2 e MoE con layer di attenzione selezionati e head di previsione multi-token (MTP) integrati durante una fase dedicata di pre-training. Nvidia afferma che è stato distillato dal suo modello di frontiera Nemotron 3 Ultra e addestrato su oltre 20 trilioni di token, e supporta una finestra di contesto fino a 1 milione di token.
L'obiettivo di progettazione è la latenza e il costo su larga scala, non la generalità di frontiera. Nvidia posiziona Lightning per il "livello di esecuzione" degli agenti sempre attivi — le chiamate ad alto volume e di difficoltà inferiore che un agente esegue costantemente: chiamate a strumenti, revisione del codice, triage degli avvisi di sicurezza, domande sulla fatturazione, delega ai sotto-agenti. È un lavoro per cui non vuoi un modello di frontiera a ogni passo; vuoi uno economico e veloce che sia abbastanza buono. Le affermazioni sulla velocità derivano dall'architettura: output fino a 4× più veloce rispetto a modelli di dimensioni simili e completamento delle attività agentiche più veloce di circa il 30%, secondo le misurazioni di Nvidia. Due modelli bozza, DSpark e DFlash, forniscono una decodifica speculativa ottimizzata per il servizio con concorrenza da media ad alta.
I tre checkpoint — e quale vuoi.
Il lancio è in realtà tre download, e una copertura che tratta "Nemotron 3.5 Lightning" come un unico modello non coglie la distinzione che conta di più per uno sviluppatore.
L'oggetto di questo articolo, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, è il checkpoint pre-addestrato grezzo — nessun fine-tuning supervisionato, nessun RL, nessuna distillazione applicata. È un modello base in senso stretto: non chatta fuori dalla scatola, ed esiste per essere il punto di partenza per continuare il pre-addestramento, SFT personalizzato, RL o distillazione. Se intendi costruire il tuo modello sopra il pre-addestramento di Nvidia, questo è il file che fa per te.
La release gemella, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, è il set di pesi di riferimento che ha eseguito l'intera pipeline — pre-addestramento, continuazione MTP, SFT e RL. È un modello di ragionamento e chat generico, ma Nvidia lo presenta ancora come punto di partenza per la personalizzazione piuttosto che come artefatto di servizio in produzione. Per il servizio, il checkpoint NVFP4 (rilasciato insieme, condividendo i kernel di quantizzazione che Nvidia usa per Nemotron 3 Ultra) è quello pensato per latenza e throughput.
Guida pratica, in una riga per checkpoint:
• Base-BF16 — pre-addestramento continuato, post-addestramento di dominio, distillazione da zero. Prosegui tu da qui.
• Riferimento BF16 — capace di chat e ragionamento, ma pensato come base per la tua SFT o RL, non come endpoint ospitato.
• NVFP4 — il checkpoint ottimizzato per il serving, per il deployment su GPU Nvidia.
La maggior parte dei lettori che si rivolgono a un'API di produzione vuole i modelli ottimizzati, non la base. La base conta comunque, perché Nvidia l'ha rilasciata sotto una licenza aperta (OpenMDW-1.1) che copre pesi, dati di addestramento e ricette — il pre-addestramento grezzo è la parte che non si può ottenere da un fornitore chiuso, ed è la parte che rende l'intera famiglia di tua proprietà.

Il registro di benchmark, etichettato onestamente
Ecco cosa riporta Nvidia per il checkpoint di base nelle proprie valutazioni: MMLU 78.59, MMLU-Pro (5-shot) 67.94, GSM8K 91.28, HumanEval 77.44, MBPP 78.59, ARC-Challenge 92.66, HellaSwag 85.55, WinoGrande 79.95 e un punteggio RULER per contesto lungo di 69.62 a 1M token. Il riferimento ottimizzato sposta l'asticella dove ci si aspetterebbe: MMLU-Pro 81.94, GPQA Diamond (senza strumenti) 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58.
I dati di velocità di punta sono anche dichiarati dal fornitore: fino a 4× più veloci nell'output e il 30% più veloci nel completamento di attività agentiche rispetto ai modelli della sua categoria, oltre a un risultato PinchBench dell'86% di precisione su un'esecuzione di 10.000 attività, circa il 30% più veloce di Qwen3.6-35B con precisione simile. Nvidia cita anche un Artificial Analysis Intelligence Index di 24, in parità con gpt-oss-120b — ma notate la provenienza: è Nvidia che cita un punteggio per un modello che, al 11 agosto, non compare ancora nella classifica pubblica di Artificial Analysis. I laboratori indipendenti non hanno pubblicato numeri su Lightning.
Per avere un'idea di dove si collochi il 24 all'interno della famiglia, gli indici misurati da AA per gli altri modelli open di Nvidia sono 25.4 sia per Nemotron 3 Ultra che per Nemotron 3 Super, e 14.2 per Nemotron 3 Nano. Lightning non è un modello di frontiera, e Nvidia non sostiene che lo sia; è una scommessa sul versante velocità-e-costi della frontiera di Pareto.

A cosa serve: il livello di esecuzione degli agenti
La proposta di Nvidia è una divisione del lavoro: un modello di frontiera pianifica e ragiona, mentre un esecutore economico gestisce le migliaia di chiamate di routine che consentono a un agente di funzionare davvero tutto il giorno. Per questo lo stesso annuncio include una libreria di routing: Lightning è pensato per essere un livello di un sistema più ampio, non l'intero sistema.
I case study dei partner sono forniti da Nvidia, quindi leggili come marketing con dei numeri allegati. Quello che meglio illustra lo scopo del modello è CodeRabbit, che dichiara di aver eseguito il post-addestramento di Lightning per la revisione del codice in meno di tre ore e per meno di 100 dollari, migliorando l'accuratezza di circa il 4% rispetto a una baseline di classe GPT con circa la metà del costo di inferenza. Che tu ti fidi o meno delle cifre esatte, la forma parla da sola: un modello da 3B attivi è abbastanza economico da poter fare fine-tuning sui tuoi dati e servirlo su larga scala — ed è questa l'intera proposta di valore.
La matematica dei costi
Non esiste un prezzo di listino per Nemotron 3.5 Lightning, perché non c'è nulla da comprare: i pesi sono gratuiti sotto licenza OpenMDW-1.1, insieme ai dati di training e alle ricette. Il prezzo è quello che un host applica per servirlo, e quel numero varierà più della qualità quando le API di terze parti inizieranno a supportare la famiglia. Per il prototyping, Nvidia lo offre come microservizio NIM sulla propria piattaforma build.nvidia.com, che è gratuito da provare con un limite di richieste e senza carta di credito.
Ci sono due realtà di costo che contano prima di valutare la situazione. In primo luogo, "30B totali, 3B attivi" significa che l'inferenza è economica per token, ma l'intero 30B deve comunque risiedere in memoria su ogni GPU: il serving non è gratuito e la concorrenza batch determina la velocità reale di esecuzione. In secondo luogo, quando un modello open-weight approda su diverse API ospitate, i prezzi per token tra i provider possono differire di multipli, e questa differenza non è un indicatore di qualità. È qui che un gateway pass-through dimostra il suo valore: OrcaRouter inoltra i prezzi di listino dei provider direttamente con ricarico 0%, così un taglio di prezzo del provider è attivo lo stesso giorno e la varianza dei prezzi resta sul lato del mercato. Nemotron 3.5 Lightning non è ancora su OrcaRouter — i pesi sono stati rilasciati poche ore fa — ma il pattern per adottare in sicurezza un modello rilasciato da un giorno è instradarlo dietro un failover automatico, così un problema di cold-start su un host non può mettere fuori uso un percorso di produzione.
Il router che è stato spedito con esso.
NeMo Switchyard è un progetto che vale la pena capire, perché è la scommessa di Nvidia su come dovrebbe funzionare l'IA agentica aperta: non un singolo grande modello, ma un sistema che invia ogni passaggio al modello più capace ed efficiente disponibile. È una libreria open source che integri nel tuo harness, con regolazioni per ottimizzare qualità, latenza o costo. Il benchmark di Nvidia sostiene un'accuratezza di livello frontiera a circa un terzo del costo di un modello di frontiera eseguito da solo.
I risultati dei partner, ancora una volta riportati da Nvidia, sono coerenti nella direzione: Boomi afferma di aver instradato il 59% del traffico verso un modello specializzato 5× più veloce con una latenza inferiore del 21% nei turni successivi; Cognition riporta un costo medio inferiore del 28%; Ramp afferma di aver eguagliato le prestazioni dei modelli frontier sul proprio SWE-bench con un costo inferiore del 58%. Il dato più onesto è LangChain: costo inferiore del 74% su 145 attività di agenti multi-step con solo il 7% delle chiamate a un modello frontier — con un compromesso del 6% in termini di accuratezza. Il routing non è gratuito; è un compromesso deliberato.
Switchyard è una libreria, quindi è il percorso fai-da-te: definisci tu la policy, la integri, la gestisci. L'alternativa gestita è un'API di routing ospitata, in cui una singola chiave copre un catalogo di oltre 200 modelli, il failover è un'opzione predefinita invece di qualcosa che devi configurare manualmente, e un DSL di routing ti permette di comporre più modelli in un'unica chiamata. I numeri dei test di Nvidia — 59%, 74%, 58% — sono l'argomento più forte a favore di quel pattern, qualunque sia il livello su cui lo esegui.
Come eseguirlo oggi
Il supporto dal primo giorno è ampio. I checkpoint vengono eseguiti localmente su PC RTX, DGX Spark, DGX Station e hardware Jetson, e nel data center su GPU Hopper e Blackwell. L'ecosistema annunciato comprende vLLM, SGLang, llama.cpp, Ollama, LM Studio, Unsloth e TensorRT-LLM, oltre a un container NIM per l'infrastruttura Nvidia. Per il post-training, Nvidia ha inoltre rilasciato un dataset RL aperto, Nemotron-RL-Agentic-Terminal-Pivot, pensato per le capacità degli agenti di codifica — utile se prevedi di eseguire il tuo passaggio RL sopra la base.

Chi dovrebbe agire ora
Tre gruppi ottengono qualcosa da questa release, e dovrebbero fare cose diverse. Se costruisci modelli — pre-training continuato, post-training di dominio, distillazione — il checkpoint Base-BF16 è il download interessante, ed è genuinamente nuovo: Nvidia non ha mai aperto un pre-training grezzo di classe 30B sotto questa licenza. Se servi modelli, il checkpoint NVFP4 e il percorso NIM valgono la pena di essere confrontati con ciò che già esegui per carichi di lavoro da agenti; il profilo 3B-active è l'intera proposta. E se sei uno sviluppatore di applicazioni, la risposta onesta è aspettare un momento: i modelli ottimizzati non sono ancora su API ospitate in una forma stabile, i numeri indipendenti sono lontani settimane, e il quadro dei costi sarà più chiaro quando il mercato metterà un prezzo a un MoE aperto da 30B.
Cosa guardare dopo: la prima esecuzione indipendente su Artificial Analysis, che confermerà o sgonfierà la pretesa di Index-24; i prezzi che i primi provider di hosting fisseranno per i checkpoint ottimizzati; e la frequenza con cui i numeri di Switchyard di Nvidia compaiono nei benchmark di altri. Questo è un lancio che riguarda efficienza e routing, non una nuova frontiera — ed è questo, non la scheda tecnica, la storia.
Domande frequenti
Posso usare il checkpoint Base-BF16 per la chat così com'è?
No. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 è il checkpoint pre-addestrato grezzo senza SFT o RL applicati — non è ottimizzato per le istruzioni. L'opzione in grado di gestire chat e ragionamento è la release gemella NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 di riferimento, che ha eseguito l'intera pipeline a quattro fasi; la base esiste per essere ulteriormente post-addestrata, non per essere distribuita così com'è.
L'Artificial Analysis Index di 24 è un punteggio indipendente?
No — non ancora. Quel numero è Nvidia che cita un punteggio per un modello che, alla data dell'11 agosto 2026, non compare ancora nella classifica pubblica di Artificial Analysis. I laboratori indipendenti non hanno pubblicato risultati per Nemotron 3.5 Lightning, quindi considera ogni numero nei materiali di lancio come riportato dal fornitore finché non appare una valutazione di terze parti.
