
NVIDIA Nemotron 3.5 Lightning 30B A3B: Nvidias öppna agentarbetshäst, förklarad
- GoogleNYGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1M tokens · 89 tok/s
- AnthropicNYAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1M tokens · 97 tok/s
- orcaNYOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaNYOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1M tokens · 88 tok/s
- OrcaNYOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1M tokens · 133 tok/s
- OrcaNYOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 per 1M tokens · 88 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1M tokens · 123 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1M tokens · 69 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1M tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligens
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1M tokens · 194 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligens
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1M tokens · 123 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligens
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligens
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 per 1M tokens · 138 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Intelligens
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Intelligens
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 per 1M tokens · 189 tok/s
Nvidia tillkännagav Nemotron 3.5 Lightning den 11 augusti 2026 och levererade den med något som de flesta modelllanseringar utelämnar: en router. NeMo Switchyard, ett bibliotek med öppen källkod som avgör vilken modell som ska hantera nästa anrop i en agentloop, släpptes samma dag som en mixture-of-experts-modell med 30 miljarder parametrar och bara 3 miljarder aktiva parametrar — vilket är hela poängen. Denna förklaring handlar om kontrollpunkten som Nvidia släppte först, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, den råa förtränade basen snarare än den chattanpassade referensen, och om vad familjen som helhet säger om vart öppen modellserving är på väg.
En källhänvisning innan siffrorna: varje benchmark, hastighetspåstående och partnersiffra i den här texten är Nvidias egna, och inget av det har ännu reproducerats oberoende — modellen är bara timmar gammal. Betrakta prestandasiffrorna som leverantörens visitkort: informativa och vägledande, men ännu inte en resultattavla.
Vad Nemotron 3.5 Lightning egentligen är
Nemotron 3.5 Lightning är den nyaste och minsta medlemmen i Nvidias öppna Nemotron 3-familj. Det är en MoE med 30 miljarder parametrar med endast 3 miljarder aktiva per token, byggd på en hybrid Mamba-2- och MoE-arkitektur med utvalda attention-lager och multi-token-prediktionshuvuden (MTP) inbakade under ett dedikerat förträningssteg. Nvidia säger att den har destillerats från sin frontlinjemodell Nemotron 3 Ultra och tränats på mer än 20 biljoner tokens, och den stödjer ett kontextfönster på upp till 1 miljon tokens.
Designmålet är latens och kostnad i stor skala, inte generell frontlinjekapacitet. Nvidia positionerar Lightning som exekveringslagret för ständigt aktiva agenter — de anrop med hög volym och lägre svårighetsgrad som en agent gör hela tiden: verktygsanrop, kodgranskning, prioritering av säkerhetslarm, faktureringsfrågor och delegering till underagenter. Det är arbete där du inte vill ha en frontlinjemodell vid varje steg; du vill ha en billig, snabb sådan som är tillräckligt bra. Hastighetspåståendena följer av arkitekturen: upp till 4× snabbare utdata än modeller av liknande storlek och cirka 30% snabbare slutförande av agentiska uppgifter, enligt Nvidias mätningar. Två utkastmodeller, DSpark och DFlash, tillhandahåller spekulativ avkodning som är optimerad för servering med medel till hög samtidighet.
De tre kontrollpunkterna — och vilken du vill ha
Lanseringen är egentligen tre nedladdningar, och bevakning som behandlar "Nemotron 3.5 Lightning" som en enda modell missar den distinktion som betyder mest för en utvecklare.
Ämnet för denna text, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, är den råa förtränade kontrollpunkten — ingen övervakad finjustering, ingen RL, ingen destillering tillämpad. Det är en basmodell i strikt mening: den chattar inte direkt ur lådan, och den finns till för att vara utgångspunkten för fortsatt förträning, anpassad SFT, RL eller destillering. Om du avser att bygga din egen modell ovanpå Nvidias förträning är detta filen du vill ha.
Syskonutgåvan, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, är referensvikterna som körde hela pipelinen — förträning, MTP-fortsättning, SFT och RL. Det är en allmän resonemangs- och chattmodell, men Nvidia beskriver den fortfarande som en utgångspunkt för anpassning snarare än en produktionsklar serveringsartefakt. För servering är NVFP4-checkpointen (som släpptes samtidigt och delar kvantiseringskärnorna Nvidia använder för Nemotron 3 Ultra) den som är inriktad på latens och genomströmning.
Praktisk vägledning, en rad per kontrollpunkt:
• Base-BF16 — fortsatt förträning, domänpostträning, destillation från grunden. Du tar över härifrån.
• BF16 reference — kan chatta och resonera, men är avsedd som bas för din egen SFT eller RL, inte som en hostad endpoint.
• NVFP4 — den servingoptimerade checkpointen för driftsättning på Nvidia GPU:er.
{{1}}De flesta läsare som söker sig till en produktions-API vill ha de finjusterade modellerna, inte basmodellen. Basmodellen spelar ändå roll, eftersom Nvidia släppte den under en öppen licens (OpenMDW-1.1) som omfattar vikter, träningsdata och recept — den råa förträningen är den del du inte kan få från en sluten leverantör, och det är den del som gör hela familjen till din egen.{{/1}}

Riktmärkesregistret, ärligt märkt
Här är vad Nvidia rapporterar för bascheckpointen i sina egna utvärderingar: MMLU 78.59, MMLU-Pro (5-shot) 67.94, GSM8K 91.28, HumanEval 77.44, MBPP 78.59, ARC-Challenge 92.66, HellaSwag 85.55, WinoGrande 79.95, och ett RULER-poäng för långt sammanhang på 69.62 vid 1M tokens. Den finjusterade referensen gör märkbar skillnad där man kan förvänta sig: MMLU-Pro 81.94, GPQA Diamond (utan verktyg) 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58.
De i rubriken angivna hastighetssiffrorna är också leverantörsrapporterade: upp till 4× snabbare utdata och 30% snabbare agentisk uppgiftsfullföljning än modeller i samma klass, plus ett PinchBench-resultat på 86% noggrannhet över en körning med 10 000 uppgifter, ungefär 30% snabbare än Qwen3.6-35B vid liknande noggrannhet. Nvidia hänvisar även till ett Artificial Analysis Intelligence Index på 24, i nivå med gpt-oss-120b – men notera härkomsten: det är Nvidia som citerar ett värde för en modell som, per den 11 augusti, ännu inte finns med på Artificial Analysis offentliga resultatlista. Oberoende labb har inte publicerat Lightning-siffror.
För att förstå var 24 sitter i familjen är de AA-mätta indexen för Nvidias andra öppna modeller 25,4 för både Nemotron 3 Ultra och Nemotron 3 Super, och 14,2 för Nemotron 3 Nano. Lightning är inte en frontmodell, och Nvidia hävdar inte att den är det; det är en satsning på hastighets- och kostnadssidan av Pareto-fronten.

Vad den är till för: utförandelagret för agenter
Nvidias pitch handlar om en arbetsfördelning: en frontmodell planerar och resonerar, och en billig exekutor hanterar de tusentals rutinanrop som gör att en agent faktiskt kan köra hela dagen. Det är därför samma tillkännagivande inkluderar ett routningsbibliotek — Lightning är tänkt att vara en nivå i ett större system, inte hela systemet.
Partnerns fallstudier är levererade av Nvidia, så läs dem som marknadsföring med siffror bifogade. Den som bäst illustrerar modellens syfte är CodeRabbit, som säger att de eftertränade Lightning för kodgranskning på under tre timmar för mindre än 100 dollar, och fick cirka 4% bättre träffsäkerhet jämfört med en GPT-klassad baslinje till ungefär hälften av inferenskostnaden. Oavsett om du litar på de exakta siffrorna är formen själva poängen: en modell med 3B aktiva parametrar är tillräckligt billig för att finjustera på dina egna data och servera i stor skala, vilket är hela värdeerbjudandet.
Kostnadsmatematiken
Det finns inget listpris för Nemotron 3.5 Lightning, eftersom det inte finns något att köpa — vikterna är gratis under OpenMDW-1.1, tillsammans med träningsdata och recept. Priset är vad en värd tar betalt för att tillhandahålla den, och den siffran kommer att variera mer än kvaliteten gör när tredjeparts-API:er börjar erbjuda familjen. För prototypbyggande tillhandahåller Nvidia den som en NIM-mikrotjänst på sin egen plattform build.nvidia.com, som är gratis att prova med en anropsbegränsning och utan kreditkort.
Två kostnadsrealiteter är viktiga innan du bildar dig en uppfattning. För det första: "30B totalt, 3B aktiva" innebär att inferens är billig per token, men hela 30B måste ändå finnas i minnet på varje GPU — serving är inte gratis, och hur många batchar som kan köras samtidigt avgör hur snabbt det faktiskt går. För det andra: när en modell med öppna vikter landar på flera hostade API:er kan priserna per token skilja sig flerfaldigt mellan leverantörer, och den skillnaden är ingen kvalitetssignal. Det är här en pass-through-gateway förtjänar sin plats: OrcaRouter skickar leverantörernas listpriser direkt vidare med 0 % påslag, så en prissänkning hos leverantören är aktiv samma dag och prisvariationen ligger kvar på marknadens sida. Nemotron 3.5 Lightning finns inte på OrcaRouter ännu — vikterna släpptes för timmar sedan — men mönstret för att säkert införa en dagsgammal modell är att dirigera den bakom automatisk failover, så att ett kallstartsproblem hos en värd inte kan ta ner en produktionsväg.
Routern som medföljde den.
NeMo Switchyard är värt att förstå eftersom det är Nvidias satsning på hur öppen agentisk AI ska köras: inte en enda stor modell, utan ett system som skickar varje steg till den mest kapabla och effektiva modellen som finns tillgänglig. Det är ett bibliotek med öppen källkod som du integrerar i ditt ramverk, med reglage för att anpassa mot kvalitet, latens eller kostnad. Nvidias egna benchmarkresultat visar på noggrannhet på frontier-nivå till ungefär en tredjedel av kostnaden för en frontier-modell som körs ensam.
Partnerresultaten, återigen rapporterade av Nvidia, är riktningsmässigt konsekventa: Boomi uppger att de dirigerade 59 % av trafiken till en 5× snabbare specialiserad modell med 21 % lägre latens för senare turer; Cognition rapporterar 28 % lägre genomsnittlig kostnad; Ramp uppger att de matchade frontmodellens prestanda på sin egen SWE-bench till 58 % lägre kostnad. Den mest ärliga datapunkten är LangChain: 74 % lägre kostnad över 145 flerstegsagentuppgifter med endast 7 % av anropen till en frontmodell — med en avvägning på 6 % i noggrannhet. Routning är inte gratis; det är ett medvetet byte.
Switchyard är ett bibliotek, vilket innebär att det är bygg-det-själv-vägen: du definierar policyn, integrerar den och driver den. Det hanterade alternativet är ett värdbaserat routing-API, där en enda nyckel täcker en katalog med över 200 modeller, failover är en standard snarare än något du kopplar ihop, och en routing-DSL låter dig kombinera flera modeller i ett enda anrop. Nvidias egna testsiffror — 59 %, 74 %, 58 % — är det starkaste argumentet för det mönstret, oavsett vilket lager du kör det på.
Hur man kör det idag
Stödet från dag ett är omfattande. Checkpointarna körs lokalt på RTX-datorer, DGX Spark, DGX Station och Jetson-maskinvara, samt i datacentret på Hopper- och Blackwell-GPU:er. Det annonserade ekosystemet omfattar vLLM, SGLang, llama.cpp, Ollama, LM Studio, Unsloth och TensorRT-LLM, plus en NIM-container för Nvidias infrastruktur. För post-träning har Nvidia även släppt en öppen RL-dataset, Nemotron-RL-Agentic-Terminal-Pivot, som syftar till kodningsagentens förmågor – användbar om du planerar att göra ditt eget RL-steg ovanpå basen.

Vem bör agera nu
Tre grupper får ut något av den här releasen, och de bör göra olika saker. Om du bygger modeller — {{1}}fortsatt förträning, domänspecifik efterträning, destillering{{/1}} — är {{2}}Base-BF16{{/2}}-checkpointen den intressanta nedladdningen, och den är genuint ny: {{3}}Nvidia har inte tidigare släppt en rå förträning i 30B-klassen under den här licensen{{/3}}. Om du serverar modeller är {{4}}NVFP4{{/4}}-checkpointen och {{5}}NIM{{/5}}-vägen värda att benchmarka mot det du redan kör för {{6}}agentarbetsbelastningar{{/6}}; {{7}}3B-active{{/7}}-profilen är hela säljargumentet. Och om du är en {{8}}applikationsutvecklare{{/8}} är det ärliga svaret att {{9}}vänta ett slag{{/9}}: {{10}}de finjusterade modellerna{{/10}} finns ännu inte på {{11}}hostade API:er{{/11}} i {{12}}någon stabil form{{/12}}, {{13}}oberoende siffror{{/13}} är {{14}}veckor bort{{/14}}, och {{15}}kostnadsbilden{{/15}} blir tydligare så snart {{16}}marknaden prissätter{{/16}} en {{17}}öppen 30B MoE{{/17}}.
Vad du bör hålla koll på härnäst: den första oberoende körningen på Artificial Analysis, som antingen bekräftar eller tömmer luften ur Index-24-påståendet; priserna som de första värdleverantörerna sätter för de finjusterade checkpoints; och hur ofta Nvidias egna Switchyard-siffror dyker upp i andras benchmarks. Detta är en lansering om effektivitet och routing, inte om en ny gräns — och det, inte specifikationsbladet, är storyn.
Vanliga frågor
Kan jag använda Base-BF16-checkpointen för chatt direkt?
Nej. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 är den råa förtränade kontrollpunkten utan SFT eller RL tillämpad — den är inte instruktionsfinjusterad. Alternativet med chatt- och resonemangsförmåga är syskonutgåvan NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 referensutgåva, som genomgick hela fyrstegspipelinen; basmodellen finns för att vidaretränas, inte för att användas som den är.
Är Artificial Analysis Index på 24 ett oberoende resultat?
Nej — inte ännu. Den siffran är Nvidia som citerar ett resultat för en modell som, per den 11 augusti 2026, ännu inte finns med på Artificial Analysis offentliga topplista. Oberoende labb har inte publicerat Nemotron 3.5 Lightning-resultat, så behandla alla siffror i lanseringsmaterialet som leverantörsrapporterade tills en tredjepartskörning dyker upp.
