Releasedatum för Nemotron 3.5 Bolt 74B: NVIDIA klämmer in en 74B-agentmodell i 24 GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B släpps torsdagen den 15 oktober 2026, och NVIDIA Nemotron 3.5 Bolt E4B följer fredagen den 23 oktober. De två datumen är svaret på en teaser: den 14 oktober publicerade NVIDIA:s AI-konto "Så många modeller som lanseras den här veckan! Och vi har en egen på väg...⌛️" utan något namn angivet. Att kolla upp den teasern är värt de två minuterna, för den får en ovanlig upplösning – tillkännagivandet som tweeten syftar på hade redan publicerats i sin helhet dagen innan, i ett NVIDIA-blogginlägg daterat den 13 oktober som namnger båda modellerna, båda datumen, minnesavtrycket och inferenskörtiderna. Så det här är inte en läcka, och det är inte ett rykte. Det är en lansering med för lite marknadsföring, och teasern var knuffen, inte scoopet.

Det som följer skiljer det som NVIDIA faktiskt har skrivit ned från det som ingen utanför företaget ännu har mätt – vilket, för en modell som lanseras i dag, är större delen av den intressanta kolumnen.

Retandet, och vad det utmynnade i

Två saker är värda att slå fast innan något annat, för de är precis den typ av detalj som blir tillplattad i aggregering. Först: ordningen. NVIDIAs blogginlägg "All Systems Go: Global PC App Ecosystem Ready for NVIDIA RTX Spark" har tidsstämpeln 2026-10-13T12:00Z. Inlägget "one of our own coming" kom in 2026-10-14T20:29Z — ungefär trettiotvå timmar senare. Tweeten är en hänvisning, inte den primära källan, och varje text som behandlar tweeten som tillkännagivandet utgår från fel dokument.

För det andra gör frasen ”en av våra egna” verkligen nytta. NVIDIA är inte bara leverantören här; det är veckans plattformsleverantör. Samma inlägg från den 13 oktober lanserar RTX Spark-laptops den 16 oktober, en ombyggd DLSS 5 AI-modell som debuterar i NBA 2K27 samma dag, NVIDIA PAIR ur beta och Broadcast 2.3. Bolt 74B är språkmodellen i en vecka där NVIDIA tillkännager flera modeller av mycket olika slag. Om du kom hit för att leta efter en produkt är det därför bevakningen är förvirrande.

Vad NVIDIA har åtagit sig, med sina egna ord

Kärnpåståendet är kort och specifikt. NVIDIA beskriver Nemotron 3.5 Bolt 74B-A9B som "en ny LLM specialbyggd för att köra lokala agenter på RTX Spark", byggd som "en 74B-parameters, 9B-aktiv-parameters mixture-of-experts-modell (MoE)" som är "inpackad i 24GB med 2-bitars kvantisering och avancerade kvantiseringsmedvetna träningstekniker för att bevara kvaliteten."

Tre saker i den meningen gör jobbet:

• 9B aktiva, inte 74B. Detta är en gles MoE. Routingkostnaden per token följer den aktiva vägen, inte det totala antalet parametrar, vilket är anledningen till att en 74B-modell överhuvudtaget marknadsförs för en bärbar dator.

• 2-bitars, medvetet. Inte en community-kvantisering av ett BF16-släpp, utan en modell som NVIDIA säger tränades med kvantiseringsmedvetna tekniker i syfte att hålla kvaliteten vid den bredden. Om det håller är en mätning, inte ett påstående – se liggaren nedan.

• 24GB är den avsedda målramen. NVIDIA beskriver avvägningen som ”den optimala balansen mellan snabbhet och intelligens – snabbare än de flesta populära dense-modeller men smartare än de flesta populära MoE-modeller med liknande minnesavtryck”. Det är NVIDIAs egen positionering, som ingen annan har reproducerat.

Vad gäller åtkomst anger NVIDIA uttryckligen runtime-miljöerna: llama.cpp, vLLM, Ollama, Unsloth och LM Studio vid lansering, plus direkt användning via agenter, inklusive Hermes och OpenClaw. Och när det gäller licensiering säger inlägget att Bolt 74B är "helt öppen källkod... inklusive träningsdata, vikter och recept" — samma inramning som NVIDIA tillämpar på resten av Nemotron-serien.

Varför 24GB är siffran som spelar roll, inte 74B

Det mest framträdande heltalet här är 74B. Det bärande talet är 24 GB, och det av ett enkelt skäl: 24 GB är en minnesram i stationär acceleratorklass. Det är kapaciteten hos ett enda högklassigt konsumentkort, och på den bärbara sidan är det den ram som NVIDIA bygger veckan kring – RTX Spark-maskiner har ett tak på upp till 128 GB enhetligt minne och 1 petaflop AI-beräkningskraft, och de bärbara datorerna kommer den 16 oktober.

Lägger man ihop dem blir pitchen begriplig. En MoE med 9B aktiva parametrar vars vikter hamnar på 24 GB vid 2 bitar innebär att samma bygge som får plats på ett arbetsstationskort också får plats på den bärbara dator som levereras nästa dag, med utrymme över för applikationen och en andra liten modell. Det är en väsentligt annorlunda driftsättningshistoria än en hostad frontier-modell bakom ett API, och det är anledningen till att "local agent" står i NVIDIAs egen enradsbeskrivning i stället för "cheap inference."

Motvikten är att ett 2-bitarsmål är en begränsning för vad modellen kan vara. Varje kvalitetsjämförelse mot en BF16-modell med liknande total storlek är en jämförelse mellan olika artefakter, och NVIDIA valde artefakten med avsikt. Bedöm Bolt 74B mot andra lokala byggen i 24GB-klassen, inte mot en fullprecisionscheckpoint som aldrig skulle ha fått plats.

Liggaren: bekräftat, angivet men omätt och okänt

Att vara precis om vilken kolumn ett faktum sitter i är hela värdet av att läsa det här under den första veckan i stället för den tredje.

• Bekräftat av NVIDIA: modellnamnet, MoE-konfigurationen med 74B totalt / 9B aktiva, 2-bitarsfotavtrycket på 24GB, datumet 15 oktober, de fem namngivna runtime-miljöerna, agentåtkomst via Hermes och OpenClaw, samt påståendet att vikter, träningsdata och recept är öppna.

• Påstått men inte uppmätt: själva kvalitetsanspråket. "Smartare än de flesta populära MoE-modeller med liknande minnesavtryck" och "snabbare än de flesta populära dense-modeller" levereras utan en benchmark-tabell i tillkännagivandet. Ingen oberoende utvärdering av Bolt 74B verkar finnas ännu.

• Okänt i skrivande stund: kontextfönstret; den namngivna licensen (NVIDIA säger öppen källkod utan att namnge någon i detta inlägg); den exakta inferensgenomströmningen på 24GB-nivån; huruvida utgåvan endast är nedladdningsbara vikter eller även tillhandahålls bakom ett API; huruvida 2-bit är den enda publicerade precisionen; och hur nära arkitekturen härstammar från Nemotron 3.5 Lightning-serien som NVIDIA redan har levererat i BF16- och NVFP4-byggen.

Den sista okända faktorn är den man ska hålla fast vid. NVIDIAs egen namngivning innehåller båda siffrorna – "74B-A9B" och det tidigare "30B-A3B" – så de två är jämförbara på papperet: ungefär 2,5× Lightning-modellens totala antal parametrar och 3× de aktiva. Huruvida den kvoten överlever 2-bitars komprimering är precis vad en första oberoende benchmark skulle avgöra.

Bolt E4B är den andra halvan av familjen, och det är en annan produkt

Nemotron 3.5 Bolt E4B, som släpps den 23 oktober, är inte en mindre kusin till 74B på det sätt som namnet antyder. NVIDIA kallar den "den tredje generationens lilla språkmodell (SLM) för NVIDIA ACE", sviten som företaget använder för AI-spelfigurer — ett släktskap som företaget spårar via en PUBG-beta för den första generationen och en förhandsvisning av Aniimo på Gamescom för den andra.

Dess angivna designmål är spelformade snarare än agentformade: ett 4GB-fotavtryck, "snabb tid till första token", "ett nytt konversationsläge [som] hjälper till att hålla svar koncisa och talförberedda", en växlingsknapp för resonemang, och förankring i applikationstillstånd för verktygsanvändning över flera turer. NVIDIA kombinerar lanseringen med en provkörning inuti SkyrimNET, en moddningsplattform för Skyrim-NPC:er som stöder både molnbaserad och lokal inferens, med start samma dag.

Så om du kom från tweeten och förväntade dig en modell, får du två vid olika datum, i olika kuvert, för olika jobb: 15 oktober för den 24 GB lokala agenten, 23 oktober för den 4 GB spelkaraktären.

Hur man utvärderar det utan att satsa en färdplan på det

Det knepiga med en lokal modell från dag ett är att du ännu inte kan svara på den enda fråga som spelar roll – håller 2-bitars-checkpointen för din arbetsbelastning – och du kan inte heller svara på den andra: om det finns en hostad väg att jämföra med. Båda luckorna är tillfälliga, och ingen av dem är ett skäl att planera utifrån en benchmarktabell som inte finns.

Det praktiska tillvägagångssättet är att hålla de två besluten åtskilda. Kör Bolt 74B lokalt som ett experiment inom det 24GB-utrymme du redan har, och behåll produktionsvägen på det som går att anropa idag. Det är i den andra halvan som routinginfrastrukturen förtjänar sin plats: en nyckel över 200+ modeller till leverantörens listpris med 0 % påslag innebär att ett försök med en andra eller tredje kandidat kostar en konfigurationsändring i stället för ett andra avtal, och automatisk failover mellan leverantörer innebär att ett obeprövat lokalt bygge aldrig blir den enda felpunkten för en agent i drift.

Det är också det ärliga sättet att läsa Nvidias egen inramning. "Specialbyggd för att köra lokala agenter på RTX Spark" är ett påstående om var modellen körs, inte om vilka poäng den får. Betrakta datumet den 15 oktober som det ögonblick då en fråga blir möjlig att besvara – inte som ett svar.

Vad skulle ändra den här artikeln

Tre saker, i grov ordning efter hur mycket de skulle förändra bilden.

• En namngiven licens och ett offentligt viktrepo. "Helt öppen källkod, inklusive träningsdata, vikter och recept" är det starkaste påståendet i NVIDIAs inlägg och det lättaste att verifiera. Fram till dess att licensen är namngiven och filerna går att ladda ner är det påståendet ett löfte.

• Ett första oberoende benchmark. Den intressanta jämförelsen är inte Bolt 74B mot en 70B-klassmodell med full precision som den aldrig konkurrerade med. Det är Bolt 74B i 2-bit mot varje annat bygge som får plats i 24 GB, mätt i samma testrigg.

• En hostad slutpunkt. Utan en sådan finns det inget pris att diskutera, och inget sätt att dirigera trafik till den. Om en serverad version dyker upp blir prisjämförelsen mot de modeller som redan finns på din kortlista konkret, och pass-through-prissättning blir värd att kontrollera samma dag.

Tills åtminstone en av dem landar är rätt hållning intresse snarare än engagemang. Teasern var verklig, datumen är verkliga och modellen är verklig. Utvärderingen är det inte.

Frågor värda att besvara ordentligt

Är Nemotron 3.5 Bolt 74B samma modell som Nemotron 3.5 Lightning 30B-A3B?

Nej. De är olika poster i samma generation med olika utformning: Bolt har 74B totalt med 9B aktiva, Lightning har 30B totalt med 3B aktiva enligt NVIDIAs egen namngivning. Bolt levereras också med ett 2-bitars, 24GB stort fotavtryck, medan NVIDIA har publicerat Lightning-serien i BF16- och NVFP4-versioner. Huruvida de delar en arkitektur är inte något som tillkännagivandet säger.

Kan man köra Bolt 74B på ett stationärt grafikkort med 24 GB, eller bara på en RTX Spark-laptop?

NVIDIAs uttalade begränsning är fotavtrycket, inte maskinen – 24 GB vid 2-bit – och de namngivna körtidsmiljöerna är llama.cpp, vLLM, Ollama, Unsloth och LM Studio, som inte är exklusiva för NVIDIA. RTX Spark är dit NVIDIA riktar marknadsföringen, men inget i tillkännagivandet gör det till ett krav.

Hostar OrcaRouter Nemotron 3.5 Bolt 74B?

Inte idag, och det finns inget att hosta ännu — NVIDIA har inte publicerat någon betjänad slutpunkt eller något pris för den. Om det ändras blir modellen anropbar via samma nyckel som allt annat i katalogen, till leverantörens listpris utan påslag.

För en modell vars felmoder ännu är odokumenterade är den användbara motsvarigheten registret över vad som redan har gått fel någon annanstans: de dokumenterade AI-incidenterna och agentfelen kring modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omstridd status.