Nemotron 3.5 Bolt 74B vs Qwen3.8-Max: Det bredaste gapet på tavlan

Varje matchning i Nemotron 3.5 Bolt-familjen har ett gap. Den här har det största. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB får 21,4 på Artificial Analysis Intelligence Index; Qwen3.8-Max, A​libabas flaggskepp och modellen med högst poäng i den här serien av jämförelser, får 45,4 på samma oberoende resultatlista. Det är 24 poäng, mer än hela indexpoängen för den mindre modellen, och det är den ärliga utgångspunkten för alla som frågar om en lokal agent på 24 GB kan ersätta frontlinjen.

Det kan det inte. Det som gör paret värt att skriva om är att de två modellerna vinner på helt olika rader, och att NVIDIAs egen benchmarktabell jämför Bolt med en Qwen-modell som inte är den här.

Två modeller som inte har något gemensamt förutom multimodalitet

N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB är en visionsspråkmodell med 74 miljarder parametrar komprimerad till en 2-bitars checkpoint som får plats i 24 gigabyte minne. Dess vikter lades upp på Hugging Face den 7 oktober 2026; N​VIDIA namngav den i ett lanseringsinlägg den 15 oktober. Den är byggd för lokalt agentiskt arbete – verktygsanrop, webbsurfning, terminalanvändning, att läsa av en skärm – och säljs som en nedladdning i stället för en tjänst, utan något publicerat förbrukningspris någonstans.

Qwen3.8-Max är den motsatta konstruktionen. A​libabas toppmodell är en gles mixture-of-experts-modell som företaget positionerar direkt mot de starkaste stängda modellerna i sitt lanseringsfönster, och som tillhandahålls via tre överföringsformat – ett O​penAI-kompatibelt gränssnitt, ett A​nthropic-kompatibelt gränssnitt och A​libabas egen DashScope – i regionerna Peking, Singapore, Tokyo, Frankfurt och Virginia. Den hostade modellen lanserades den 3 augusti 2026 med bild- och videoinmatning, en kontext på en miljon token och en växlingsknapp för tänkande; ögonblicksbilden från den 2 september är den version som för närvarande poängsätts på resultattavlorna. Det öppenviktade syskonet i samma familj, Qwen3.8-2.4T-A95B, är en separat lansering och inte modellen som mäts här.

Den ena är en fil. Den andra är en tjänst. Jämförelsen är fortfarande användbar, eftersom tjänsten publicerar ett pris och filen inte gör det, och skillnaden mellan dem är vad en lokal driftsättning faktiskt köper.

• Intelligensindex — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB: 21,4. Qwen3.8-Max: 45,4. Båda har oberoende mätts av Artificial Analysis.

• Kontext — 262 144 tokens för N​VIDIA-checkpointen mot ungefär 983 000 för Qwen3.8-Max, med en maximal utdata på 131 072 tokens på A​libaba-sidan.

• Parametrar – 74B totalt och 9B aktiva för Bolt; Alibabas flaggskeppsnivå är en gles mixture-of-experts av en helt annan ordning, med cirka 95B parametrar aktiverade per token i sin öppna viktform.

• Indata – text, bilder och video in, text ut för båda. Detta är den enda dimensionen där de två verkligen är lika.

• Pris — Qwen3.8-Max: 2,00 USD per miljon indatatoken, 6,00 USD per miljon utdatatoken, 0,25 USD för cachad indata. Bolt: ingenting, eftersom det inte finns någon slutpunkt att köpa.

• Kostnad per Intelligence Index-uppgift — 5,41 $ för Qwen3.8-Max, uppmätt. Ingen siffra för Bolt, av samma anledning.

• Hastighet – Qwen3.8-Max: 39,8 utdatatoken per sekund med 3,06 sekunder till första token och en median på 50,3 sekunders resonemangstid per svar, allt oberoende uppmätt. Bolt: ingen oberoende mätning av genomströmning finns.

Raderna, varifrån de 24 punkterna kommer

Artificial Analysis körde båda. Det är mer användbart att läsa detaljerna rad för rad än den sammansatta poängen, eftersom den sammansatta poängen döljer att ingen av modellerna är genomgående bättre.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 procent, oberoende uppmätt. Bolt har ingen oberoende post i detta benchmark; NVIDIA rapporterar 50,98 på sitt modellkort.

• GPQA Diamond — Qwen3.8-Max 92,8 procent oberoende. Bolts 86,43 är N​VIDIAs egen siffra, och panelen har ingen oberoende siffra för den.

• Humanity's Last Exam, inga verktyg – Qwen3.8-Max 43,1 procent mot Bolts 24,7 procent, båda oberoende mätta.

• Långkontextsåtervinning (AA-LCR) — 80,3 procent mot 69,7 procent, båda uppmätta.

• Vetenskaplig kodning (SciCode) — 52,1 procent mot 39,7 procent, båda uppmätta.

• Multimodalt resonemang (MMMU-Pro) — Qwen3.8-Max 82,8 procent, oberoende uppmätt. Bolt har ingen oberoende post, vilket är ett anmärkningsvärt utelämnande för en modell vars främsta säljargument är att den kan se.

• Yrkesrelaterade leverabler (GDPval-AA) — Qwen3.8-Max 0,583 normaliserat mot Bolts 0,240, båda uppmätta.

• Agentiska och IT-operationer — Qwen3.8-Max uppnår 42,4 procent på APEX-Agents, 40,3 procent på ITBench-SRE och 45,0 procent i en analytikeragentutvärdering. Bolt har inga oberoende poäng i någon av dessa tre kolumner.

• Icke-hallucinering (AA-Omniscience) — Qwen3.8-Max 71,2 procent mot Bolts 56,3 procent, med en träffsäkerhet på 31,7 procent mot 17,1 procent. Till skillnad från jämförelsen mellan Bolt och Ultra, där den komprimerade modellen vinner kalibreringsraden, här tar flaggskeppet båda.

• Kostnad per indextask — 5,41 USD för Qwen3.8-Max. Detta är den högsta siffran för kostnad per uppgift i jämförelsefamiljen kring den här modellen, och det är talet som gör det lokala alternativet intressant även vid ett underskott på 24 punkter.

Vad 5,41 $ per uppgift ger, och vad 24 GB ger i stället

Den ekonomiska profilen för Qwen3.8-Max är ovanlig för en frontiermodell: priset per token på 2,00 dollar in och 6,00 dollar ut är måttligt, men modellen ägnar lång tid åt att tänka. Medianen för resonemangstiden i panelens körningar är 50,3 sekunder, och svarstiden från början till slut är i genomsnitt 65,9 sekunder. En uppgift som tar modellen en minut av internt resonerande genererar många utdatatokens, och kostnaden per indexuppgift är måttet som avslöjar det. Det är inte en kritik av modellen – djupt resonemang är produkten – men det är anledningen till att en agentloop med hög volym snabbt blir dyr på den här nivån.

Det är precis den arbetsbelastning som Bolt är byggt för. En lokal checkpoint har ingen mätare per token alls: marginalkostnaden för ett verktygsanrop är el, och den fasta kostnaden är en GPU. För en agent som alltid är igång och utför tusentals små procedurella steg – läser en skärm, anropar en slutpunkt, redigerar en fil – är jämförelsen inte 21,4 mot 45,4, utan en konstant mot en växande faktura. N​VIDIA:s egen formulering är att Bolt finns för att vardagliga agentiska uppgifter ska kunna köras lokalt utan att skicka arbetsbelastningen till molnet, och den rapporterar 50,86 på WebArena vision och 66,75 på BrowseComp för just dessa uppgifter.

Haken är att den fasta kostnaden är verklig och latensen är okänd. N​VIDIAs referensrecept för servering är flerstegat: en pinnad vLLM-nightly-build, b12x-kernelpaketet, en separat nedladdad reasoning-parser-plugin, explicita Mamba- och attention-backends samt en konfiguration för spekulativ avkodning som använder LiLiCorr-draftaren med sju draft-tokens. Genomströmningen publiceras av N​VIDIA som 83,99 tokens per sekund på AIPerf SPEED-Bench-Coding på en maskin i laptopklass — ett leverantörstal på ett leverantörsbenchmark, utan någon oberoende körning att kontrollera det mot.

Baslinjen som N​VIDIA valde

Det finns en sak till som är värd att lägga märke till, och det är en läxa i läsning snarare än en teknisk sådan. Benchmark-tabellen på Bolts modellkort innehåller en Qwen-modell som jämförelsepunkt – och det är Qwen3.6-35B-A3B, en mycket mindre modell än flaggskeppet som mäts på den här sidan. NVIDIAs tabell visar att Bolt vinner över den modellen på Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR och MCP-Atlas, medan den förlorar på AA-Omniscience accuracy, AA-Omniscience non-hallucination och PinchBench.

De jämförelserna kan mycket väl vara korrekta. Men en läsare som tar "Bolt slår Qwen" från tabellen jämför en 74B edge-modell med en 35B dense-klass-MoE, inte med Alibabas frontier-nivå. Mot Qwen3.8-Max går den oberoende resultatbilden i motsatt riktning på nästan varje gemensam rad, och gapet vidgas snarare än minskar på de svåraste benchmarkarna. När en leverantör väljer sina egna baslinjer är det ärliga draget att kontrollera vad baslinjen är.

Hur man bestämmer

Välj Qwen3.8-Max när korrekthet är begränsningen. Om uppgiften är flerstegsanalys, svårt multimodalt resonemang, agentiskt arbete med verkliga konsekvenser eller något som mäts av de benchmarks där den ligger 24 poäng före, är det lokala alternativet inte en kandidat — och med $2.00 och $6.00 per miljon tokens är den prissatt som infrastruktur snarare än som en lyx. Det är också modellen att välja när arbetsflödet behöver strukturerade utdata, inbyggt verktygsanrop och en kontext på en miljon tokens i ett enda anrop, allt som Alibaba dokumenterar stöd för.

Välj Bolt när begränsningen är var arbetet utförs. Integritet, offline-drift, latens som inte beror på ett nätverk och en kostnad per anrop som inte existerar är fyra separata argument, och vart och ett är tillräckligt i sig för vissa team. Modellen är kompetent på procedurer och svag på recall; rikta in den mot det förra.

För den hostade halvan, Qwen3.8-Max nås via OrcaRouter som qwen/qwen3.8-max/ på samma nyckel som 200+ andra modeller, till Alibabas leverantörslistpris utan påslag — vilket innebär att en leverantörsprisändring slår igenom hos oss samma dag i stället för i slutet av en faktureringscykel. Det har större betydelse på den här nivån än på en billig, eftersom $5,41 per indextask är en siffra som ett ekonomiteam kommer att vilja dubbelkolla varje månad. Punkten där routningen förändrar beslutets form är volymproblemet: en arbetsbelastning som består av 90 procent små procedurella steg och 10 procent krävande resonemang kan skicka de 10 procenten hit och behålla resten lokalt, med automatisk failover mellan leverantörer så att den hostade nivån degraderas till ett nytt försök i stället för ett avbrott.

Vi hostar ingen N​VIDIA-modell och har ingen Bolt-endpoint — N​emotron-familjen finns inte i vår katalog, och den lokala halvan av den här jämförelsen är en hårdvarufråga som inget routinglager rör.

Det olösta numret

Det som ingen har publicerat är den mätning som skulle göra jämförelsen fullständig: en oberoende körning av latens och genomströmning på 24GB-checkpointen med batchstorlek ett, på en maskin som en person kan köpa. Om en 2-bitars 74B-checkpoint visar sig kunna köra interaktiva agentsteg i användbar hastighet, blir gapet på 24 punkter ett gap du kan kringgå – lokalt för procedur, hostat för resonemang. Om den inte gör det är det lokala alternativet ett batchverktyg och jämförelsen reduceras till pris. Hur som helst är svaret bara en publikation bort, och det är det man bör leta efter innan man planerar en driftsättning kring den här modellen.

Jämförelser som den här är också där fellägena visar sig: de dokumenterade AI-incidenterna och agentfelen bakom modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omstridd status.