Nemotron 3.5 Super vs GPT-6 Astra: vad en skannad sida kostar på vardera

OpenAI GPT-6 Astra fakturerar ett skannat dokument per token. NVIDIA Nemotron 3.5 Super fakturerar det per GPU-sekund. Den där enda meningen är större delen av den här jämförelsen, och det är inte meningen som någon av leverantörerna skulle sätta i en rubrik. NVIDIA-modellen – 120 miljarder totala parametrar med 12 miljarder aktiva per token, en C-RADIO-visionencoder på en hybrid av Mamba-2 och Transformer mixture of experts, tillkännagavs av NVIDIA den 15 oktober 2026 under namnet NVIDIA Nemotron 3.5 Super VL och släpptes på Ollama som code>nemotron-3.5-super/code> – kom ut i världen med sina vikter redan tre dagar gamla på Hugging Face, uppladdade den 12 oktober. Astra är OpenAI:s flaggskepp: 1 050 000 tokens i kontext, 128 000 tokens i maximal utdata, text-, bild- och filinmatning, ständigt aktivt resonemang, och ett listpris på $10 per miljon indatatoken och $50 per miljon utdatatoken.

De två prisnivåerna skiljer sig med en faktor tio i indata och tjugofem i utdata, vilket gör den intressanta frågan ovanligt skarp. Vid vilken volym slår en öppen checkpoint med fast kostnad en $10/$50-mätare för dokumentarbete – och ändras svaret när dokumentet är en sida pixlar i stället för en sida text?

De konkurrerar inte om samma förfrågan

Det första man måste klargöra är att vad gäller uppmätt kapacitet ligger dessa två modeller inte nära varandra, och ingen av leverantörerna hävdar något annat.

• Tredjepartsindex — Astra ligger på ungefär 54,7 i panelen som poängsätter dessa modeller, med ett Coding Index på 76,9 och ett Agentic Index på 51,6, allt registrerat i Astras egen katalogpost · NVIDIA-checkpointen ligger på ungefär 26. Det är en skillnad på omkring tjugoåtta punkter, och den mäts inte av någon av leverantörerna.

• Kontext — 1 050 000 tokens för Astra med en utdatagräns på 128 000 tokens · 1 000 000 för NVIDIA-checkpointen utan någon publicerad utdatagräns alls, och kortets eget förbehåll att minnes- och körtidsinställningar avgör den användbara siffran.

• Resonemangsyta — Astra kör alltid påslaget resonemang med konfigurerbar ansträngning från låg till max, returnerar fullständiga resonemangsspår via Responses API och stöder strukturerade utdata, slumpfrön och webbsökning som ett verktyg · NVIDIA-checkpointen har ett på/av-läge för tänkande som växlas via chattmallen och en publicerad benchmarktabell men ingen hostad yta av något slag.

• Inmatningsmodalitet — text, bilder och filer för Astra · text, bilder och video för NVIDIA-checkpointen, med en 1,6 GiB visionsprojektor på varje publicerad tagg så att bildvägen alltid finns.

• Pris — 10 USD in och 50 USD ut per miljon tokens, med en nivå för lång kontext över 272 000 prompttokens · inget pris, eftersom modellen inte har någon endpoint.

• Vad du får — en API-nyckel och en trace · fyra H100:or eller två GB200:or i BF16, eller ett 96 GB-kort för den förvalda 4-bit-taggen på 82,3 GiB, under OpenMDW-1.1 med tillåten kommersiell användning.

Läs den listan och slutsatsen är uppenbar: om arbetet kräver frontier-resonemang är Astra modellen och jämförelsen är över. Det som gör den här sidan värd att läsa är fallet där arbetet inte behöver frontier-resonemang, för det är där en checkpoint på 120 miljarder parametrar med en visionsencoder börjar bli ekonomiskt försvarbar — och det är en större andel av verkliga dokumentpipelines än vad någon vill erkänna.

Sidkostnadsaritmetiken, utförd med verkliga siffror

Ta ett konkret jobb: en korpus av skannade fakturor, 200 sidor per dag, där varje sida renderas i en upplösning som är tillräckligt hög för att kunna läsa ett handskrivet referensnummer. Kalla det 1 500 bildtokens per sida efter att encodern har gjort sitt, plus en prompt på 300 tokens och ett svar på 150 tokens. Det är ungefär 1 950 tokens in och 150 ut per sida, eller 390 000 input- och 30 000 output-tokens per dag i hela korpusen.

Enligt Astras publicerade pris är det 3,90 USD för indata och 1,50 USD för utdata — cirka 5,40 USD per dag, eller ungefär 160 USD i månaden för ett jobb som en enda GPU kan utföra under natten. Höj upplösningen, lägg till en sida som utlöser long-context-nivån över 272 000 prompt-tokens, eller kör korpusen två gånger eftersom den första körningen var fel, och siffran rör sig i en riktning. Det här är problemets form: vid 10 och 50 USD har ett arbetsflöde per sida en kostnad per sida, och kostnaden skalas med exakt det som växer — antalet sidor.

På NVIDIA-checkpointen kostar samma jobb vilken bråkdel som helst av en GPU-timme som 230 000 tokens förbrukar, vilket vid 200 sidor om dagen är ett avrundningsfel jämfört med elen. Räkningen är kortet, och kortet är detsamma oavsett om du bearbetar 200 sidor eller 20 000.

Tre förbehåll innan någon rusar iväg för att köpa hårdvara. Det första är att detta slutar gälla vid låg volym — ett 96 GB-kort och strömmen för att köra det kostar mer per månad än vad de flesta team lägger på tokens, och vid 200 sidor om dagen skulle du med stor sannolikhet gå back. Det andra är att den NVIDIA-kvantisering som de flesta faktiskt kommer att köra, q4_K_M, inte har någon publicerad utvärdering någonstans; varje siffra för NVIDIA:s kort är BF16 eller NVFP4, så träffsäkerheten i den version du driftsätter är okänd. Det tredje är att Astras utdata är mätbart bättre, och i ett korpus där ett felläst referensnummer är en verklig kostnad kan bättre träffsäkerhet övertrumfa en prisskillnad av vilken storlek som helst.

Där Astra inte bara är bättre utan strukturellt bättre

Det vore oärligt att framställa Astra som ett dyrt alternativ till ett billigare val. På flera områden är det en annan klass av produkt, och skillnaden handlar inte om poäng.

Astra returnerar fullständiga resonemangsspår via Responses API. För en pipeline som måste motivera ett beslut – en bedömning av ett anspråk, en compliance-genomläsning, en medicinsk kodningsomgång – är ett granskningsbart spår inte en funktion, det är kravet. NVIDIA-checkpointen har ett tankeläge som du kan slå på och av i chattmallen och ingen hostad yta för spårning alls, vilket innebär att du själv måste bygga granskningslagret.

Astra stöder strukturerade utdata med ett schema och ett seed. I en pipeline för dokumentextraktion där utdata måste följa en postlayout är en modell som kan begränsas till ett schema billigare att integrera än en där man validerar och försöker igen, och kostnaden för återförsök är osynlig ända tills den inte är det.

Och Astras verktygsyta är en förstapartsprodukt: funktionsanrop, response_format, seed och webbsökning som ett verktyg. NVIDIA-checkpointens distributionsrecept återanvänder en verktygsanropstolkare som den inte själv har skrivit — leverantörens eget vLLM-recept anger code>qwen3_coder/code> som verktygsanropstolkare och code>nemotron_v3/code> som resonemangstolkare. Det är ett förnuftigt ingenjörsval, och det innebär också att verktygsanropsytan är lånad i stället för utformad för just den här modellen, och den behöver testas innan man kan lita på den.

vLLM-receptet berättar också vad leverantören förväntar sig att en replika ska hantera: tensorparallelism på 4, GPU-minnesutnyttjande 0,85, högst 32 samtidiga sekvenser, en bild och en video per prompt, videogallring vid 0,5 och spekulativ avkodning via det inbyggda MTP-huvudet med tre spekulativa tokens. Trettiotvå samtidiga sekvenser är taket på en nod med fyra GPU:er. Astras tak är en hastighetsbegränsning.

Fällan i NVIDIAs standardinställning, och varför den dyker upp först i dokument

Detta är detaljen som kommer att avgöra huruvida det första experimentet lyckas, och den är bara synlig om du läser runtime-registret i stället för leverantörens inlägg.

Modellkortet anger två samplingskonfigurationer: temperatur 1,0 med top_p 0,95 för textarbete, och temperatur 0,6 med top_p 0,95 för vision. Standardvärdet i Ollama-manifestet är textparet — code>{"temperature": 1.0, "top_p": 0.95}/code> med code>draft_num_predict: 3/code>. Så den konfiguration som de flesta kommer att möta den här visionsmodellen under är inställd för den hälft av den som inte är vision. Om det första du gör med den är att rikta den mot en skannad faktura och resultatet är löst eller hallucinerat, är samplingsinställningarna det första du bör ändra — innan du drar några slutsatser om checkpointen.

Ytterligare två registerdetaljer värda att känna till innan du distribuerar. Fyra av de nio publicerade taggarna — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> och code>:120b-a12b-q4_K_M/code> — pekar på samma q4_K_M-lager, så taggen som är döpt efter det fullständiga parameterantalet är inte filen du får. Och versionsgrinden verkställs snarare än rekommenderas: konfigurationen deklarerar code>requires: 0.40.5/code>, så på en äldre runtime fungerar inte hämtningen alls.

Jämför det med felmodet på andra sidan av den här jämförelsen, vilket är en ändrad slutpunkt. Astra är en hostad tjänst; dess beteende kan ändras. Ingen av riskerna är ett skäl att undvika modellen. De är olika risker och de kräver olika riskreducerande åtgärder — en konfigurationsändring på ena sidan, en reservväg på den andra.

Routningssvaret, som är detsamma för båda

Astra finns tillgängligt via vår nyckel. OrcaRouter routar den till leverantörens listpris, som förs vidare utan påslag per token — $10 och $50 per miljon tokens, där nivån för lång kontext prissätts exakt som OpenAI prissätter den, tillgängligt hos oss samma dag i stället för vid din nästa förnyelse. Om frågan är om Astra klarar din dokumentarbetsbelastning, så är det en nyckel och ingen upphandling, och svaret kostar några dollar i tokens.

NVIDIA-checkpointen finns inte på vår nyckel. Vi dirigerar lite drygt tvåhundra modeller och det finns ingen post för NVIDIA Nemotron bland dem, så den här artikeln är inte ett påstående om att du kan anropa den här. Om du behöver den checkpointen är NVIDIAs egna bygg- och distributionskanaler samt den lokala hämtningen din väg.

Vad plattformen egentligen är till för i det här beslutet är sekvensering. Kör korpusen mot Astra först och mät två saker: kostnaden per sida och felfrekvensen per sida. De två siffrorna tillsammans avgör allt. Om felfrekvensen är låg och volymen är låg, stanna kvar på mätaren för alltid – du kommer aldrig att slå den med hårdvara. Om felfrekvensen är låg och volymen är hög har du nu ett försvarbart argument för att flytta standardsidorna till ett kort du äger medan du behåller de svåra sidorna på mätaren. Om felfrekvensen är hög spelar det ingen roll hur stor prisfördelen på NVIDIA-sidan är, eftersom aritmetiken för en felläst faktura inte handlar om tokens.

Och oavsett vilken väg du väljer, routa den nya modellen bakom en reservlösning. En checkpoint vars vikter är fyra dagar gamla har fyra dagars driftshistorik, och den billigaste försäkringen mot det är en andra modell i samma anrop. Astra är en rimlig sak att ha bakom en fyra dagar gammal öppen modell; det är också den modell som de flesta läsare av den här sidan kommer att dra slutsatsen att de inte behöver ersätta.