Nemotron 3.5 Bolt vs GPT-5.6 Sol: En av dessa två modeller har ett pris

Du kan inte jämföra dessa två modeller utifrån kostnad, och det är det mest användbara med jämförelsen. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB är en fil på 24 GB: ladda ner den, och marginalpriset för den miljonte token är elen. GPT-5.6 Sol är en hostad flaggskeppsmodell som faktureras med 4,00 USD per miljon indata-tokens och 20,00 USD per miljon utdata-tokens, med en publicerad p50-tid till första token på 1,63 sekunder och 535,5 miljoner tokens trafik under de senaste sju dagarna. En av dessa två har en prislista. Den andra har ett maskinvarukrav, vilket är en annan sorts räkning som kommer en gång.

Båda modellerna är verkliga och båda är tillgängliga. NVIDIAs Nemotron 3.5 Bolt 74B-A9B 24GB-checkpoint låg på Hugging Face från den 7 oktober 2026 med inget annat kopplat till sig än ett modellkort, och leverantörens eget tillkännagivande av Bolt-serien följde den 15 oktober – åtta dagar senare, i ett inlägg som namnger både den här modellen och en 4GB-syskonmodell. GPT-5.6 Sol har funnits på OpenAIs prislista sedan den 9 juli 2026. Om du väljer mellan dem den här veckan är beslutet inte vilken av dem som är smartare. Det är huruvida arbetsbelastningen kan lämna din maskin.

Vad gapet tjugoett mot femtionio mäter

Artificial Analysis ger Nemotron 3.5 Bolt 74B-A9B 21 poäng på sitt Intelligence Index, vilket placerar den på fjärde plats av 67 modeller i den jämförelseklass den placerats i. GPT-5.6 Sol ligger i det övre femtiotalet på samma version av indexet. En skillnad på omkring fyrtio poäng är enorm, och uttryckt så avslutar den argumentationen innan den ens har börjat.

Klyftan är också två olika mätningar som bär på en och samma siffra. 21:an är det bästa resultat som någon modell med öppna vikter har uppnått vid detta minnesavtryck – Artificial Analysis anger medianen för jämförbara modeller med öppna vikter till 8, och noterar att Bolt hamnar ”bland de ledande modellerna i fråga om intelligens när man jämför med andra modeller med öppna vikter av liknande storlek.” Siffran på ungefär 59 är vad ett frontierlabb producerar när minnet inte är en begränsning. Ingen av siffrorna är fel. De svarar på olika frågor: hur mycket intelligens som får plats i 24GB, och hur mycket intelligens pengar kan köpa.

Det som panelen inte kunde mäta är mer intressant än det som den kunde mäta. Artificial Analysis-sidan för Bolt listar hastighet som N/A och kostnad per Intelligence Index-uppgift som N/A, av den enkla anledningen att det inte finns någon hostad slutpunkt att anropa. Varje hastighetssiffra som finns för den här modellen kommer från NVIDIAs egen testbänk: forskningsnotan anger ett designmål på minst 80 tokens per sekund vid avkodning och rapporterar 84 tokens per sekund i AIPerf SPEED-Bench på RTX Spark, med 83,99 tokens per sekund i en llama.cpp-körning på en Surface Laptop Ultra med 128 GB. De kan mycket väl vara korrekta. Ingen utanför NVIDIA har reproducerat dem, och du bör behandla dem som ett leverantörspåstående tills någon gör det.

Där den hostade modellen ligger strukturellt före

Tre skillnader handlar inte alls om intelligens, och var och en diskvalificerar den lokala filen för en klass av arbete.

• Kontext — GPT-5.6 Sol har ett fönster på 1 050 000 tokens med en maximal utdata på 128 000 tokens; Nemotron 3.5 Bolt har upp till 262 144 tokens. Ett fyra gånger bredare fönster är inte en lyxfunktion när uppgiften är ett kodförråd eller ett kontraktsarkiv i en enda förfrågan. Bolts fönster måste också dela 24 GB med KV-cachen, bilderna, videorutorna och konversationshistoriken, vilket innebär att det praktiska taket nås tidigare än specifikationen antyder.

• Indatatyper — GPT-5.6 Sol tar emot text, bilder och filer; Nemotron 3.5 Bolt tar emot text, bilder och video och returnerar text. Det är en verklig fördel för Bolt när det gäller video och en verklig brist när det gäller dokument, eftersom en PDF som skickas som en fil inte behöver rasteriseras, pagineras eller analyseras bildruta för bildruta.

• Tillgänglighet — GPT-5.6 Sol är en URL. Nemotron 3.5 Bolt är en vLLM-distribution som kräver Ampere-, Hopper- eller Blackwell-kisel, eller en llama.cpp-körning på en RTX Spark- eller DGX Spark-enhet. En av dessa kan du använda inom fyra minuter.

Det finns en fjärde skillnad som handlar mindre om kapacitet och mer om mätning: varje anrop till den hostade modellen skapar en radpost, och varje anrop till den lokala gör det inte. För en klassificerings- eller extraktionsloop med hög volym betyder den inversionen mer än fyrtio indexpunkter.

Vad ägandet av filen faktiskt ger

Nemotron 3.5 Bolt 74B-A9B är en gles mixture-of-experts-modell med 74 miljarder parametrar och 9 miljarder aktiva per token, byggd på en hybridryggrad av Mamba-2 och Transformer som NVIDIA kallar LatentMoE, med en C-RADIO v4-H-visionencoder påmonterad för det multimodala arbetet. Det är en komprimeringsartefakt i ordets mest bokstavliga bemärkelse: NVIDIA tog 120B-A12B Nemotron 3.5 Super VL-modellen, tillämpade en routerstyrd sökning som de kallar Star Elastic för att krympa den till 74B-A9B, och körde sedan kvantiseringsmedveten destillation ner till 2,0625 bitar per expertvikt — ett IQ2_XXS-format — för att rymmas inom 24 GB utan att träna om från scratch. Licensen är OpenMDW-1.1, som tillåter kommersiell och icke-kommersiell användning.

Två konsekvenser följer. Den första är att modellen körs vid sidan av andra program på en arbetsstation snarare än i stället för dem, vilket är det som över huvud taget gör en lokal agent möjlig. Den andra är att den levereras med inbyggd spekulation: en LiLiCorr-draftare som drivs via DFlash föreslår sju token i förväg, vilket är varifrån en betydande del av de 84 tokens per sekund kommer.

Leverantörens egen benchmark-tabell, som ingen utanför NVIDIA har reproducerat, placerar 24GB-checkpointen före varje baslinje i samma tabell – en Qwen3.6 35B, en Gemma 4 26B och NVIDIAs egen Nemotron 3.5 Lightning 30B-A3B – på GDPVal-AA-V2 (28,47), Terminal-Bench 2.1 (50,98), GPQA Diamond (86,43), SciCode (41,02) och BrowseComp (66,75). Läs dem som påståenden om hur en komprimerad 74B står sig mot okomprimerade modeller en tredjedel av dess storlek, vilket är precis vad de är designade att visa, och inte som en jämförelse mot en hostad flaggskeppsmodell.

Att prissätta de två halvorna ärligt

Den hostade delen har ett entydigt pris. GPT-5.6 Sol finns i OrcaRouters katalog som openai/gpt-5.6-sol till OpenAI:s leverantörslistpris vidarebefordrat med 0 % påslag — 4,00 USD per miljon indatatoken och 20,00 USD per miljon utdatatoken, samma siffror på vår sida som hos leverantören, vilket innebär att en ändring på leverantörssidan slår igenom hos oss samma dag i stället för vid nästa avtalsförnyelse. En indata på 20 000 token med 3 000 token utdata kostar 0,08 USD in och 0,60 USD ut, eller omkring 0,68 USD per anrop.

Den lokala delen har inget pris som vi är villiga att hitta på. Det finns ingen hostad endpoint för Nemotron 3.5 Bolt, ingen prislista och ingen tredjepartsplattform som mäter det som vi kan hänvisa dig till. Att prissätta det innebär att prissätta en GPU, en effektförbrukning och en avskrivningsperiod — aritmetik som hör hemma i ditt kalkylark och inte i vårt, eftersom svaret helt och hållet beror på hur mycket du kör det.

Den asymmetrin är där ett routningslager gör något konkret snarare än dekorativt. Nemotron 3.5 Bolt finns inte i vår katalog och vi tillhandahåller det inte; inget här är ett erbjudande om att vara värd för NVIDIAs checkpoint. Vad en enda slutpunkt faktiskt ger är möjligheten att hålla de lokala och hostade halvorna av ett arbetsflöde under en och samma nyckel, så att en begäran kan skickas till GPT-5.6 Sol när den behöver ett fönster på en miljon tokens eller en filinmatning, och till din egen Bolt-distribution när den inte gör det — med regeln som avgör vilket som är vilket skriven en gång i stället för hårdkodad i varje tjänst. Om den hostade leverantören försämras, flyttar automatisk redundansväxling begäran i stället för att begäran misslyckas.

Vilken ska man välja?

• Välj Nemotron 3.5 Bolt 74B-A9B 24GB när data inte får lämna byggnaden, när arbetsbelastningen innehåller video, när volymen är tillräckligt hög för att fakturering per token ska vara den dominerande kostnaden, eller när du vill ha en agent som körs på hårdvara du redan äger. Acceptera ett 262K-fönster och en indexpoäng som är ungefär en tredjedel av den hostade modellens. Verifiera genomströmningspåståendena på din egen enhet innan du planerar kapacitet utifrån dem.

• Välj GPT-5.6 Sol när uppgiften kräver den bredaste kontexten, filinmatning, den starkaste tillgängliga resonemangsförmågan och ett supportavtal som backar upp det. Betala $4 och $20 per miljon tokens för privilegiet, och notera att den maximala utmatningen på 128K är ett längre enskilt svar än ett 24GB minnesutrymme bekvämt tillåter.

• Kör båda när arbetsflödet delas upp på ett tydligt sätt, vilket det gör för de flesta agentsystem. Den lokala filen hanterar den högfrekventa, lågrisk- och integritetskänsliga halvan; den hostade modellen hanterar de förfrågningar som behöver räckvidd.

Den öppna frågan är densamma som den senaste komprimerade Nemotron väckte och som ingen besvarade: en första oberoende mätning av genomströmning och latens för 24GB-vikterna, utförd av någon som inte arbetar på NVIDIA. Tills den finns är den här modellens intelligensgolv externt verifierat och dess hastighetstak är det inte — och för en lokal driftsättning är hastigheten den hälft du känner.