Nemotron 3.5 Super vs GPT-6 Astra: quanto costa una pagina scansionata su ciascuno

OpenAI GPT-6 Astra fattura un documento scansionato in base ai token. NVIDIA Nemotron 3.5 Super lo fattura in base ai secondi di GPU. Quella singola frase è la maggior parte di questo confronto, e non è la frase che nessuno dei due fornitori metterebbe in un titolo. Il modello NVIDIA — 120 miliardi di parametri totali con 12 miliardi attivi per token, un encoder visivo C-RADIO su una miscela di esperti ibrida Mamba-2 e Transformer, annunciato da NVIDIA il 15 ottobre 2026 con il nome NVIDIA Nemotron 3.5 Super VL e distribuito su Ollama come code>nemotron-3.5-super/code> — è entrato nel mondo con i suoi pesi già vecchi di tre giorni su Hugging Face, caricati il 12 ottobre. Astra è il fiore all'occhiello di OpenAI: 1.050.000 token di contesto, 128.000 token di output massimo, input di testo, immagini e file, ragionamento sempre attivo, e un prezzo di listino di $10 per milione di token di input e $50 per milione di output.

Quei due livelli di prezzo differiscono di un fattore dieci in input e di venticinque in output, il che rende la domanda interessante insolitamente netta. A quale volume un checkpoint aperto a costo fisso batte un sistema a consumo da $10/$50 per il lavoro sui documenti — e la risposta cambia quando il documento è una pagina di pixel anziché una pagina di testo?

Non competono per la stessa richiesta

La prima cosa da mettere in chiaro è che, sulla capacità misurata, questi due modelli non sono affatto vicini, e nessuno dei due fornitori sostiene il contrario.

• Indice di terze parti — Astra si colloca intorno a 54,7 sul panel che assegna un punteggio a questi modelli, con un Indice di Coding di 76,9 e un Indice Agentico di 51,6, tutti registrati nella scheda di catalogo di Astra stessa · il checkpoint NVIDIA è intorno a 26. Si tratta di un divario di circa ventotto punti e non è misurato da nessuno dei due fornitori.

• Contesto — 1.050.000 token per Astra con un limite di output di 128.000 token · 1.000.000 per il checkpoint NVIDIA senza alcun limite di output pubblicato, e con l'avvertenza della scheda stessa che sono le impostazioni di memoria e di runtime a determinare il valore utilizzabile.

• Superficie di ragionamento — Astra esegue il ragionamento sempre attivo con uno sforzo configurabile da basso a massimo, restituisce tracce di ragionamento complete tramite la Responses API e supporta output strutturati, seed e la ricerca web come strumento · il checkpoint NVIDIA ha una modalità di pensiero on/off commutata tramite il template di chat e una tabella di benchmark pubblicata, ma nessun tipo di superficie ospitata.

• Modalità di input — testo, immagini e file per Astra · testo, immagini e video per il checkpoint NVIDIA, con un proiettore visivo da 1,6 GiB su ogni tag pubblicato, così il percorso delle immagini è sempre presente.

• Prezzo — 10 $ in entrata e 50 $ in uscita per milione di token, con un livello a contesto lungo oltre 272.000 token di prompt · nessun prezzo, perché il modello non ha un endpoint.

• Cosa ottieni — una chiave API e una traccia · quattro H100 o due GB200 in BF16, oppure una scheda da 96 GB per il tag predefinito a 4 bit da 82,3 GiB, sotto OpenMDW-1.1 con uso commerciale consentito.

Leggi quell'elenco e la conclusione è ovvia: se il lavoro richiede ragionamento di frontiera, Astra è il modello e il confronto è chiuso. Ciò che rende questa pagina degna di essere letta è il caso in cui il lavoro non richiede ragionamento di frontiera, perché è lì che un checkpoint da 120 miliardi di parametri con un encoder visivo inizia ad avere senso economico — ed è una quota delle pipeline documentali reali maggiore di quanto chiunque ami ammettere.

L'aritmetica del costo per pagina, fatta con numeri reali

Prendiamo un caso concreto: un corpus di fatture scansionate, 200 pagine al giorno, ciascuna pagina renderizzata a una risoluzione abbastanza alta da leggere un numero di riferimento scritto a mano. Diciamo 1.500 token immagine per pagina dopo che l'encoder ha fatto il suo lavoro, più un prompt da 300 token e una risposta da 150 token. Sono all'incirca 1.950 token in ingresso e 150 in uscita per pagina, ovvero 390.000 token di input e 30.000 di output al giorno su tutto il corpus.

Alla tariffa pubblicata di Astra, ciò significa 3,90 $ di input e 1,50 $ di output — circa 5,40 $ al giorno, o all'incirca 160 $ al mese per un lavoro che una singola GPU può svolgere in una notte. Aumenta la risoluzione, aggiungi una pagina che fa scattare il livello long-context oltre i 272.000 token di prompt, oppure elabora il corpus due volte perché la prima passata era sbagliata, e il numero si muove in una sola direzione. Questa è la forma del problema: a 10 $ e 50 $, un flusso di lavoro per pagina ha una fattura per pagina, e la fattura scala esattamente con la cosa che cresce — il numero di pagine.

Sul checkpoint NVIDIA lo stesso lavoro costa la frazione di GPU-hour che 230.000 token consumano, il che, a 200 pagine al giorno, è un errore di arrotondamento rispetto all'elettricità. La spesa vera è la scheda, e la scheda è la stessa sia che tu elabori 200 pagine sia 20.000.

Tre avvertenze prima che qualcuno corra a comprare hardware. La prima è che questo smette di essere vero a bassi volumi — una scheda da 96 GB e la potenza per farla funzionare costano al mese più di quanto la maggior parte dei team spenda in token, e a 200 pagine al giorno probabilmente ci rimetteresti. La seconda è che la quantizzazione NVIDIA che la maggior parte delle persone userà effettivamente, q4_K_M, non ha alcuna valutazione pubblicata da nessuna parte; ogni cifra sulla scheda NVIDIA è BF16 o NVFP4, quindi l'accuratezza della versione che distribuisci è sconosciuta. La terza è che l'output di Astra è misurabilmente migliore, e su un corpus in cui un numero di riferimento letto male rappresenta un costo reale, un'accuratezza migliore può superare una differenza di prezzo di qualsiasi entità.

Dove Astra non è soltanto migliore, ma strutturalmente migliore

Sarebbe disonesto presentare Astra come un'alternativa costosa a un'opzione più economica. Su diversi assi, è una classe di prodotto diversa, e la differenza non riguarda i punteggi.

Astra restituisce tracce di ragionamento complete tramite la Responses API. Per una pipeline che deve giustificare una decisione — un'aggiudicazione di sinistro, una lettura di conformità, un passaggio di codifica medica — una traccia verificabile non è una funzionalità, è il requisito. Il checkpoint NVIDIA ha una modalità di pensiero che puoi attivare e disattivare nel template della chat e nessuna superficie di traccia ospitata, il che significa costruire da sé il livello di audit.

Astra supporta output strutturati con uno schema e un seed. In una pipeline di estrazione documenti in cui l'output deve conformarsi a un layout di record, un modello che può essere vincolato a uno schema è più economico da integrare rispetto a uno in cui si convalida e si ritenta, e il costo dei tentativi ripetuti è invisibile finché non lo diventa.

E la superficie di strumenti di Astra è un prodotto first-party: chiamata di funzioni, response_format, seed e ricerca web come strumento. La ricetta di deployment del checkpoint NVIDIA riutilizza un parser di tool-call che non ha scritto: la ricetta vLLM del fornitore stesso indica code>qwen3_coder/code> come parser di tool-call e code>nemotron_v3/code> come parser di ragionamento. Si tratta di una scelta ingegneristica sensata, e significa anche che la superficie di tool-calling è presa in prestito anziché essere stata progettata per questo modello, e dovrà essere testata prima di potervi fare affidamento.

La ricetta vLLM ti dice anche cosa il fornitore si aspetta che una replica gestisca: parallelismo tensoriale di 4, utilizzo della memoria GPU 0,85, un massimo di 32 sequenze concorrenti, un'immagine e un video per prompt, potatura dei video a 0,5 e decodifica speculativa tramite la testa MTP integrata con tre token speculativi. Trentadue sequenze concorrenti è il tetto su un nodo a quattro GPU. Il tetto di Astra è un limite di frequenza.

La trappola nel default di NVIDIA, e perché si manifesta per prima sui documenti

Questo è il dettaglio che deciderà se il primo esperimento avrà successo, ed è visibile solo se si legge il registro di runtime anziché il post del fornitore.

La card specifica due configurazioni di campionamento: temperature 1.0 con top_p 0.95 per il lavoro sul testo, e temperature 0.6 con top_p 0.95 per la visione. Il default distribuito nel manifest di Ollama è la coppia per il testo — code>{"temperature": 1.0, "top_p": 0.95}/code> con code>draft_num_predict: 3/code>. Quindi la configurazione in cui la maggior parte delle persone incontrerà questo modello di visione è ottimizzata per la metà che non è visione. Se la prima cosa che fai è puntarlo su una fattura scansionata e il risultato è approssimativo o allucinato, le impostazioni di campionamento sono la prima cosa da cambiare — prima di concludere qualsiasi cosa sul checkpoint.

Altri due dettagli del registry che vale la pena conoscere prima di eseguire il deploy. Quattro dei nove tag pubblicati — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> e code>:120b-a12b-q4_K_M/code> — risolvono sullo stesso layer q4_K_M, quindi il tag che prende il nome dal conteggio completo dei parametri non è il file che ricevi. E il gate di versione è imposto, non consigliato: la configurazione dichiara code>requires: 0.40.5/code>, quindi su un runtime più vecchio il pull non funziona affatto.

Confrontalo con la modalità di guasto dall'altro lato di questo confronto, ovvero un endpoint modificato. Astra è un servizio ospitato; il suo comportamento può essere modificato. Nessuno dei due rischi è un motivo per evitare il modello. Sono rischi diversi e richiedono mitigazioni diverse — una modifica di configurazione da un lato, una rotta di fallback dall'altro.

La risposta di routing, che è la stessa per entrambi

Astra è disponibile sulla nostra chiave. OrcaRouter la instrada al prezzo di listino del fornitore, trasferito senza alcun ricarico per token — 10 $ e 50 $ per milione di token, con il tier long-context prezzato esattamente come lo prezza OpenAI, attivo dalla nostra parte lo stesso giorno anziché al tuo prossimo rinnovo. Se la domanda è se Astra gestisce il tuo carico di lavoro documentale, basta una chiave e nessuna procedura di acquisto, e la risposta costa qualche dollaro di token.

Il checkpoint NVIDIA non è sulla nostra chiave. Instradiamo poco più di duecento modelli e non c'è alcuna voce NVIDIA Nemotron tra loro, quindi questo articolo non è un'affermazione che tu possa chiamarlo qui. Se hai bisogno di quel checkpoint, i canali di build e distribuzione di NVIDIA e il pull locale sono la tua strada.

Ciò a cui la piattaforma serve davvero, in questa decisione, è stabilire la sequenza. Esegui prima il corpus su Astra e misura due cose: il costo per pagina e il tasso di errore per pagina. Quei due numeri, insieme, decidono tutto. Se il tasso di errore è basso e il volume è basso, resta sul contatore per sempre: non lo batterai mai con l'hardware. Se il tasso di errore è basso e il volume è alto, ora hai una tesi difendibile per spostare le pagine di uso comune su una scheda di tua proprietà, mantenendo quelle difficili sul contatore. Se il tasso di errore è alto, non serve a nulla alcun vantaggio di prezzo sul fronte NVIDIA, perché l'aritmetica di una fattura letta male non è una questione di token.

E in qualunque modo procediate, mettete il nuovo modello dietro un fallback. Un checkpoint i cui pesi hanno quattro giorni ha quattro giorni di storia operativa, e l'assicurazione più economica contro questo è un secondo modello sulla stessa chiamata. Astra è una cosa ragionevole da avere dietro un modello aperto di quattro giorni; è anche il modello che la maggior parte dei lettori di questa pagina concluderà di non dover sostituire.