Nemotron 3.5 Super vs Claude Opus 5.5: 12 miljarder aktiva parametrar mot en mätare

Här är talet som avgör den här jämförelsen, och det finns inte i någon av benchmarktabellerna. N​VIDIA N​emotron 3.5 Super — publicerad av N​VIDIA under det fullständigare namnet N​VIDIA N​emotron 3.5 Super VL, och listad i Ollama-biblioteket som nemotron-3.5-super/ — aktiverar cirka 12 miljarder av sina 120 miljarder parametrar för varje token den genererar. Claude Opus 5.5 publicerar inget parameterantal alls och tar 4 USD per miljon indatatokens och 20 USD per miljon utdatatokens. En av dessa modeller har därför en marginalkostnad per token som är en funktion av el, och den andra har en marginalkostnad per token som är en budgetpost. Båda siffrorna är verkliga. Ingen av dem berättar vilken modell som är billigare att driva, eftersom de är prissatta i olika valutor.

Anledningen till att detta är värt att skriva om nu: N​VIDIA-vikterna lades upp på Hugging Face den 12 oktober 2026, i tysthet, i ett repo med namnet N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, tre dagar innan N​VIDIA:s eget inlägg i nyhetsrummet den 15 oktober gjorde det officiellt. Före det tillkännagivandet var den enda offentliga bekräftelsen att N​emotron 3.5 Super existerade som något körbart var en uppsättning registerartefakter – och det faktum att en del av specifikationen på dessa artefakter inte matchar specifikationen på leverantörens kort. Vad som går att veta från repot är en hel del: byteantal, kvantiseringsformat, en versionsgrind, en licens. Vad som inte går att veta från något repo är hur det beter sig mot en hostad frontier-modell på din arbetsbelastning. Det gapet är vad den här sidan handlar om.

Vad förrådet faktiskt innehåller, innan något annat

Tre användbara checkpoints publicerades inom sextio sekunder från varandra den 12 oktober: BF16-referensvikterna, en Base-variant och en NVFP4-version. Ett separat LiLiCorr-drafter-repository hade lagts upp en dag tidigare, den 11 oktober, vilket är det tidigaste offentliga spåret av nivån. Kortet beskriver en hybrid av Mamba-2 och Transformer som är en mixture of experts med 512 routade experter per MoE-lager, en C-RADIO-visionsencoder och en vision-språk-konnektor, 120 miljarder parametrar totalt varav 12 miljarder aktiva, kontext på upp till 1 miljon tokens, text, bild och video som indata med text som utdata, och inbyggd spekulativ avkodning via ett Multi-Token Prediction-huvud. Licensen är OpenMDW-1.1, som tillåter kommersiell användning. Driftsättning anges som fyra H100 eller två GB200 för BF16.

Ollama-listningen är den version som de flesta kommer att möta först, och det är där specifikationen börjar avvika. Den exponerar nio taggar. Fyra av dem – :latest/, :120b/, :120b-a12b/ och :120b-a12b-q4_K_M/ – pekar på samma q4_K_M-lager, så standardhämtningen är en 4-bitars kvantisering och namnet ”120b” är inte filen du får. Varje tagg, även den minsta, innehåller en 1,6 GiB visionsprojektor, eftersom bildvägen inte är valfri. Den medföljande standardsamplingen är temperatur 1,0 med top_p 0,95, vilket är kortets textrekommendation – kortets visionsinställning är temperatur 0,6. Och runtime-grinden upprätthålls: konfigurationen deklarerar requires: 0.40.5/, så på en äldre Ollama fungerar inte hämtningen alls.

Inget av det är en defekt. Det är det vanliga glappet mellan en leverantörs versionsinformation och en paketering av den från communityn, och det är anledningen till att läsa båda dokumenten i stället för ett.

Den ärliga aritmetiken för 12B active

Sparse aktivering är hela det kommersiella argumentet för den här modellen, och det är värt att vara precis om vad den ger och inte ger.

Vad det ger: vid inferens berör en token ungefär en tiondel av nätverket. Genomströmningen på fixerad hårdvara ligger därför mycket närmare en tät 12B-modell än en 120B-modell, och minnesavtrycket är den enda platsen där samtliga 120 miljarder parametrar dyker upp. NVIDIA:s eget kort hävdar upp till 5x snabbare genomströmning än andra i sin klass och, när det serveras på leverantörens Dynamo-stack, upp till 8x fler samtidiga användare med 85 % lägre latens. Det är leverantörens siffror, framtagna på leverantörens hårdvara, och de är en specifikation, inte en granskning — men riktningen i påståendet är en direkt följd av arkitekturen, vilket åtminstone är en sammanhängande historia.

Vad det inte ger: vikterna måste fortfarande vara residenta i sin helhet. BF16 GGUF-lagret är 230,4 GiB. Standardvärdet q4_K_M är 82,3 GiB plus projektorn. Inget av talen minskar eftersom bara 12 miljarder parametrar aktiveras per token. Så hårdvarugolvet bestäms av minnet, medan genomströmningen bestäms av aktiveringen – vilket är varför ett enda 96 GB-kort med god marginal kan rymma 4-bitarsmodellen och ändå producera tokens i en takt som skulle genera en dense-modell av samma totala storlek, och också varför samma kort inte alls kan rymma fullprecisionsmodellen.

Ställ nu O​pus 5.5 bredvid det. A​nthropics modell har 1 miljon tokens i kontext, 128 000 tokens i maximal utdata, tar emot text-, bild- och filinmatning och har ett listpris på $4/$20 med cacheläsningar på $0,20 per miljon. Det finns ingen nedladdning, inget kvantiseringsbeslut, ingen standardinställning för sampling att åtgärda och ingen version att låsa. Det är också en välgranskad modell: den ligger högst upp i tredjepartspanelen som de flesta använder för att jämföra sådant här, långt över den här N​emotron-nivån.

Jämförelsen handlar alltså inte om ”vilket som är bättre”. När det gäller uppmätt allmän förmåga vinner den hostade flaggskeppsmodellen, och att låtsas något annat vore en otjänst mot en läsare som står inför ett köpbeslut. Jämförelsen handlar om var de två kostnadskurvorna skär varandra.

Där den öppna modellen med 120 miljarder parametrar förtjänar sin plats

Tre platser, och de är specifika.

• Volym med en fast kostnad. En självhostad checkpoint omvandlar marginalkostnad till en fast kostnad. Vid låg trafik vinner mätaren ohotat — fyra H100:or kostar mer per månad än vad de flesta team lägger på tokens. Vid hög och jämn trafik skrivs den fasta kostnaden av, men inte mätaren. Brytpunkten är den enda beräkning som spelar roll här, och den är en funktion av din tokenvolym, inte av någon av modellernas kvalitet.

• Vision-arbete där sidantalet är kostnadsdrivaren. N​VIDIAs kort rapporterar 62,82 på MMLongBench-Doc, 78,16 på MathVision, 80,82 på CharXiv reasoning och 68,12 på OCRBench v2 engelska mot 59,15 kinesiska, allt enligt leverantören. På O​pus 5.5 debiteras samma indata per token, och en sida av en skannad rapport är många tokens. Om din arbetsbelastning är tusentals dokumentsidor om dagen förändras kalkylen snabbare än någon kvalitetsskillnad gör.

• Låsning. En checkpoint på en disk som du kontrollerar ändras inte under fötterna på dig. Det är värt riktiga pengar i en reglerad pipeline, och det är en egenskap som den hostade modellen inte kan erbjuda till något pris.

Två ställen där det inte förtjänar sin plats, och båda är värda att säga högt. Det första är långsiktigt agentiskt arbete: NVIDIAs kort rapporterar 66,70 på Terminal-Bench 2.1, 71,10 på SWE-bench Verified och 51,78 på SWE-bench Pro — respektabelt, icke reproducerat och bakom den hostade frontlinjen. Det andra är allt där en misslyckad begäran är dyr, eftersom en modell vars vikter är fyra dagar gamla har fyra dagars av världens uppmärksamhet bakom sig och ingen operativ historik alls.

Siffrorna du ännu inte bör lita på, och varför

Hela den publicerade benchmarktabellen för Nemotron 3.5 Super är leverantörens egen, insamlad via NVIDIAs NeMo Gym-testramverk. GPQA-Diamond 89,52. Humanity's Last Exam enbart text 31,79. LiveCodeBench v6 88,22. IFBench 70,86. tau2-bench 69,24 detaljhandel, 76,50 flygbolag, 73,19 telekom. BrowseComp 78. LMArena v3-proxy 52,67. Vart och ett av dessa är ett leverantörspåstående med ett reproducerbart recept bifogat, vilket är bättre än enbart ett påstående, och fortfarande inte en oberoende mätning.

Den oberoende bilden är mycket tunnare, och det är i sig det mest användbara faktumet på den här sidan. Tredjepartspanelen som poängsätter dessa modeller placerar denna checkpoint vid ett Intelligence Index i mitten av tjugotalet – omkring 26 – mot ungefär 58 för O​pus 5.5. Panelen registrerar också en ovanligt hög förbrukning av utdatatokens för indexkörningen, vilket den tolkar som mångordighet, och mångordighet är en kostnadspost snarare än en fotnot i varje driftsättning där du betalar per token eller väntar per token. En oberoende datapunkt är inte ett utslag, men det är den enda som inte har producerats av företaget som säljer modellen.

Det ingen har publicerat: hur 4-bitarskvantiseringen påverkar de där resultaten. Standardtaggen för Ollama är q4_K_M. Varje publicerad siffra gäller BF16 eller NVFP4. Den siffra som de flesta faktiskt kommer att uppleva är därför omätt, och det är den man bör hålla ögonen på under de kommande veckorna.

Vad du kan och inte kan ringa idag

Värt att säga rakt ut, eftersom det är det vanligaste missförståndet på sidor som den här. N​emotron 3.5 Super finns inte på OrcaRouter. Vi routar drygt tvåhundra modeller och det finns ingen N​VIDIA N​emotron-post bland dem, så om du behöver den här specifika checkpointen är dina vägar tillverkarens egna bygg- och distributionskanaler och den lokala runtime-hämtningen – inte oss.

Opus 5.5 går däremot via vår nyckel, till leverantörens listpris, vidarefakturerat utan påslag per token, vilket innebär att en ändring i leverantörens pris slår igenom hos oss samma dag i stället för vid nästa kontraktsförnyelse. Den asymmetrin är genuint användbar för beslutet du står inför: det billiga första draget är att ta arbetsbelastningen du skulle köra på fyra H100:or och först köra den mot den hostade modellen, via ett enda API, utan upphandling. Om den hostade modellen klarar jobbet till ett acceptabelt pris har du besparat dig klustret. Om den inte gör det – och att feltolka ett tätt tekniskt dokument i stor skala är ett rimligt sätt för den att inte göra det – har du nu bevis i stället för en benchmarktabell, och du kan lägga nedladdningen på de fall som överlevde.

Vad driftsättningsreceptet kostar, konkret

Kortets egen vLLM-recept är värt att läsa som ett budgetdokument. Tensorparallellism på 4, GPU-minnesutnyttjande på 0,85, maximalt 32 samtidiga sekvenser, en bild och en video per prompt, videobeskärning vid 0,5 och spekulativ avkodning via MTP-huvudet med tre spekulativa tokens. Fyra H100:or vid 0,85 utnyttjande med ett tak på 32 sekvenser är inte en stor tjänst — det är en seriös driftsättning på en enda nod, och samtidighetstaket säger dig vad leverantören förväntar sig att en enskild replik ska hantera.

Två detaljer i det receptet spelar större roll än de verkar. Videokonfigurationen accepterar en video per prompt med beskärning vid halv takt, vilket är en stark antydan om vart visionsbudgeten tar vägen vid långa indata. Och resonemangsparsern heter nemotron_v3/ medan verktygsanropsparsern är qwen3_coder/ — leverantören återanvänder ett verktygsanropsformat som den inte har hittat på, vilket är goda nyheter för alla med befintlig kod för verktygsanrop och värt att känna till innan du skriver ny parsningslogik.

Däremot är den hostade modellens operativa yta en API-nyckel. Jämförelsen mellan ”fyra H100:or och ett vLLM-recept” och ”en nyckel och en mätare” är inte i närheten när det gäller ansträngning. Den är bara nära när det gäller kostnad, och bara vid volym.

En sak till som man kan veta från ett repository och som är lätt att missa: den rekommenderade samplingen skiljer sig åt beroende på modalitet. Text vill ha temperature 1.0 med top_p 0.95; vision vill ha 0.6 med 0.95. En driftsättning som ställer in ett par globalt och sedan bearbetar diagram och skannade sidor kör visionshalvan av en visionsmodell med texthalvans inställningar. Om ditt första intryck av den här modellen på dokument är dåligt är det den första ratten att kontrollera – innan du drar några slutsatser om checkpointen.

Så vilken

Om ditt arbete är långsiktig agentisk kodning, eller vad som helst där resonemanget måste hålla yttersta klass vid första försöket, så är Claude Opus 5.5 svaret och Nemotron-nivån är ingen ersättning för det. Det är inget tveksamt val, och leverantörens egna publicerade agentiska siffror påstår inte något annat.

Om ditt arbete handlar om dokument- och bildförståelse i hög volym, där kostnadsdrivaren är antalet sidor snarare än hur svårt resonemanget är, är detta en av de mer intressanta öppna checkpoints som dykt upp i år: 120 miljarder parametrar med 12 miljarder aktiva, en tillåtande licens, en visionsväg som verkligen finns där i stället för att ha skruvats på i efterhand, och en 4-bitarsstandard som ryms på ett enda 96 GB-kort. Haken är att den version som alla faktiskt kommer att köra – q4_K_M-standarden – inte har någon publicerad utvärdering någonstans, modellen är fyra dagar gammal, och specifikationen som publicerats av runtime stämmer inte helt överens med specifikationen som publicerats av leverantören.

Båda dessa är skäl att prova det, inte skäl att lita på det. Lägg först arbetsbelastningen på den hostade modellen för att ta reda på om arbetsbelastningen är en som en frontier-modell klarar och en modell på mellannivå inte klarar. Bestäm sedan om de fall som återstår är värda ett kluster, en nedladdning eller en kväll av konfiguration. Och om du nu lägger en fyra dagar gammal checkpoint i en anropsväg, routa den bakom en fallback, för den billigaste försäkringen mot en modell utan drifthistorik är en andra modell bakom samma anrop.

Vad siffrorna inte kan berätta för dig är huruvida något av det har gått fel i fält: de dokumenterade AI-incidenterna och agentfelen kring modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och omtvistad flagga.