Nemotron 3.5 Bolt vs GPT-5.6 Sol: Uno di questi due modelli ha un prezzo

Non puoi confrontare questi due modelli sul costo, e questa è la cosa più utile del confronto. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB è un file da 24 GB: scaricalo, e il prezzo marginale del milionesimo token è l'elettricità. GPT-5.6 Sol è un flagship hosted fatturato a 4,00 $ per milione di token in input e 20,00 $ per milione di token in output, con un tempo al primo token p50 dichiarato di 1,63 secondi e 535,5 milioni di token di traffico negli ultimi sette giorni. Uno dei due ha un listino prezzi. L'altro ha un prerequisito hardware, che è un tipo diverso di bolletta che arriva una volta sola.

Entrambi i modelli sono reali ed entrambi sono in distribuzione. Il checkpoint Nemotron 3.5 Bolt 74B-A9B 24GB di NVIDIA è rimasto su Hugging Face dal 7 ottobre 2026 senza nulla di allegato se non una model card, e l'annuncio della linea Bolt da parte dello stesso fornitore è seguito il 15 ottobre — otto giorni dopo, in un post che cita sia questo modello sia un fratello da 4GB. GPT-5.6 Sol figura nel listino prezzi di OpenAI dal 9 luglio 2026. Se questa settimana dovete scegliere tra i due, la decisione non riguarda quale sia più intelligente. Riguarda se il carico di lavoro può uscire dalla vostra macchina.

Cosa misura il divario tra ventuno e cinquantanove

Artificial Analysis assegna a Nemotron 3.5 Bolt 74B-A9B un punteggio di 21 sul suo Intelligence Index, classificandolo quarto su 67 modelli nella classe di confronto in cui è inserito. GPT-5.6 Sol si attesta sulla cinquantina alta sulla stessa versione dell'indice. Un divario vicino ai quaranta punti è enorme, e detto così chiude la discussione prima ancora che inizi.

Il divario è anche due misurazioni diverse che si nascondono dietro un unico numero. Il 21 è il miglior punteggio che qualsiasi modello a pesi aperti abbia ottenuto con questo ingombro — Artificial Analysis registra la mediana per modelli a pesi aperti comparabili a 8 e osserva che Bolt si colloca «tra i modelli leader in termini di intelligenza se confrontato con altri modelli a pesi aperti di dimensioni simili». Il valore di circa 59 è ciò che produce un laboratorio di frontiera quando la memoria non è un vincolo. Nessuno dei due numeri è sbagliato. Rispondono a domande diverse: quanta intelligenza entra in 24 GB e quanta intelligenza si può comprare con il denaro.

Ciò che il pannello non ha potuto misurare è più interessante di ciò che ha potuto. La pagina di Artificial Analysis dedicata a Bolt indica la velocità come N/D e il costo per attività dell'Intelligence Index come N/D, per il semplice motivo che non esiste un endpoint ospitato da chiamare. Ogni dato di velocità esistente per questo modello proviene dal bench interno di NVIDIA: la nota di ricerca indica un obiettivo di progetto di almeno 80 token al secondo in decodifica e riporta 84 token al secondo su AIPerf SPEED-Bench su RTX Spark, con 83,99 token al secondo in un'esecuzione di llama.cpp su un Surface Laptop Ultra con 128 GB. Potrebbero benissimo essere accurati. Nessuno al di fuori di NVIDIA li ha riprodotti, e dovresti considerarli una dichiarazione del produttore finché qualcuno non li riproduce.

Dove il modello hosted è strutturalmente in vantaggio

Tre differenze non riguardano affatto l'intelligenza, e ciascuna rende il file locale inadatto a una categoria di lavoro.

• Contesto — GPT-5.6 Sol offre una finestra di 1.050.000 token con un output massimo di 128.000 token; Nemotron 3.5 Bolt arriva fino a 262.144 token. Una finestra quattro volte più ampia non è una funzione di lusso quando il compito è un repository o un archivio di contratti in una sola richiesta. La finestra di Bolt deve anche condividere 24 GB con la KV cache, le immagini, i fotogrammi video e la cronologia della conversazione, il che significa che il limite pratico arriva prima di quanto suggerisca la specifica.

• Tipi di input — GPT-5.6 Sol accetta testo, immagini e file; Nemotron 3.5 Bolt accetta testo, immagini e video e restituisce testo. Questo è un vero vantaggio per Bolt sui video e una vera lacuna sui documenti, perché un PDF passato come file non deve essere rasterizzato, impaginato o analizzato fotogramma per fotogramma.

• Disponibilità — GPT-5.6 Sol è un URL. Nemotron 3.5 Bolt è un deployment vLLM che richiede silicio Ampere, Hopper o Blackwell, oppure un'esecuzione di llama.cpp su un dispositivo RTX Spark o DGX Spark. Uno di questi puoi usarlo in quattro minuti.

C'è una quarta differenza che riguarda meno le capacità e più la misurazione: ogni chiamata al modello ospitato genera una voce di addebito, mentre ogni chiamata a quello locale no. Per un ciclo di classificazione o estrazione ad alto volume, quell'inversione conta più di quaranta punti indice.

Cosa si ottiene davvero possedendo il file

Nemotron 3.5 Bolt 74B-A9B è un modello sparse mixture-of-experts con 74 miliardi di parametri e 9 miliardi attivi per token, costruito su una backbone ibrida Mamba-2 e Transformer che NVIDIA chiama LatentMoE, con un encoder visivo C-RADIO v4-H aggiunto per il lavoro multimodale. È un artefatto di compressione nel senso più letterale: NVIDIA ha preso il modello 120B-A12B Nemotron 3.5 Super VL, ha applicato una ricerca guidata dal router che chiama Star Elastic per ridurlo a 74B-A9B, poi ha eseguito una distillazione consapevole della quantizzazione fino a 2,0625 bit per peso esperto — un formato IQ2_XXS — per rientrare in 24GB senza riaddestramento da zero. La licenza è OpenMDW-1.1, che consente uso commerciale e non commerciale.

Ne derivano due conseguenze. La prima è che il modello viene eseguito su una workstation accanto ad altre applicazioni, anziché al loro posto, ed è ciò che rende in assoluto praticabile un agente locale. La seconda è che viene fornito con la speculazione già integrata: un drafter LiLiCorr guidato tramite DFlash propone sette token in anticipo, ed è da lì che proviene una parte significativa di quei 84 token al secondo.

La tabella di benchmark del fornitore stesso, che nessuno al di fuori di NVIDIA ha riprodotto, colloca il checkpoint da 24GB davanti a ogni baseline nella stessa tabella — un Qwen3.6 35B, un Gemma 4 26B e il Nemotron 3.5 Lightning 30B-A3B di NVIDIA stessa — su GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) e BrowseComp (66.75). Questi vanno letti come affermazioni su come un 74B compresso si confronti con modelli non compressi che sono un terzo della sua dimensione, che è esattamente ciò che intendono mostrare, e non come un confronto con un modello di punta ospitato.

Valutare onestamente le due metà

La parte ospitata ha un prezzo inequivocabile. GPT-5.6 Sol è nel catalogo di OrcaRouter come openai/gpt-5.6-sol al prezzo di listino del provider OpenAI trasferito con 0% di ricarico aggiunto — 4,00 $ per milione di token di input e 20,00 $ per milione di token di output, gli stessi valori sulla nostra pagina e su quella del fornitore, il che significa che una modifica lato fornitore si ripercuote su di noi lo stesso giorno, anziché al successivo rinnovo contrattuale. Un input di 20.000 token con 3.000 token di output costa 0,08 $ in input e 0,60 $ in output, ovvero circa 0,68 $ per chiamata.

La metà locale non ha un prezzo che siamo disposti a inventare. Non esiste un endpoint ospitato per Nemotron 3.5 Bolt, nessun listino prezzi e nessuna piattaforma di terze parti che lo misuri a cui possiamo indirizzarvi. Attribuirgli un prezzo significa prezzare una GPU, un consumo energetico e un periodo di ammortamento — aritmetica che appartiene al tuo foglio di calcolo e non al nostro, perché la risposta dipende interamente da quanto lo esegui.

Quell'asimmetria è il punto in cui un livello di routing fa qualcosa di concreto anziché decorativo. Nemotron 3.5 Bolt non è nel nostro catalogo e non lo serviamo; nulla qui costituisce un'offerta per ospitare il checkpoint di NVIDIA. Ciò che un singolo endpoint offre è la capacità di mantenere le due metà, locale e ospitata, di un flusso di lavoro sotto un'unica chiave, così una richiesta può essere inviata a GPT-5.6 Sol quando necessita di una finestra da un milione di token o di un input di file e al tuo deployment Bolt quando non ne ha bisogno — con la regola che decide quale sia quale scritta una volta invece che codificata in ogni servizio. Se il provider ospitato si degrada, il failover automatico sposta la richiesta invece di farla fallire.

Quale scegliere?

Scegli Nemotron 3.5 Bolt 74B-A9B 24GB quando i dati non possono uscire dall'edificio, quando il carico di lavoro include video, quando il volume è così alto che la fatturazione per token è il costo dominante, o quando vuoi un agente in esecuzione su hardware che già possiedi. Accetta una finestra di 262K e un punteggio dell'indice pari a circa un terzo di quello del modello ospitato. Verifica le dichiarazioni sul throughput sul tuo dispositivo prima di pianificare la capacità in base a esse.

• Scegli GPT-5.6 Sol quando l'attività richiede il contesto più ampio, l'input di file, il ragionamento più forte disponibile e un contratto di supporto alle spalle. Paga $4 e $20 per milione di token per questo privilegio, e tieni presente che l'output massimo di 128K è una singola risposta più lunga di quanto un budget di memoria da 24GB possa comodamente consentire.

• Esegui entrambi quando il flusso di lavoro si divide nettamente, cosa che nella maggior parte dei sistemi di agenti accade. Il file locale gestisce la metà ad alta frequenza, a bassa posta in gioco e sensibile alla privacy; il modello ospitato gestisce le richieste che richiedono portata.

La domanda aperta è la stessa che ha sollevato l'ultimo Nemotron compresso e a cui nessuno ha risposto: una prima misurazione indipendente di throughput e latenza dei pesi da 24GB, eseguita da qualcuno che non lavora in NVIDIA. Finché non esisterà, la soglia minima di intelligenza di questo modello è verificata esternamente e il suo tetto massimo di velocità no — e per un deployment locale la velocità è la metà che si sente.