Nemotron 3.5 Bolt 74B vs Qwen3.8-Max: Il divario più ampio della classifica

Ogni confronto della famiglia N​emotron 3.5 Bolt presenta un divario. Questo è il più ampio. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GBottiene 21,4 sull'Artificial Analysis Intelligence Index; Qwen3.8-Max, il modello di punta di A​libaba e il modello con il punteggio più alto in questa serie di confronti, ottiene 45,4 sulla stessa classifica gestita in modo indipendente. Si tratta di 24 punti, più dell'intero punteggio dell'indice del modello più piccolo, ed è il punto di partenza onesto per chiunque si chieda se un agente locale da 24GB possa sostituire la frontiera.

Non può. Ciò che rende la coppia degna di essere scritta è che i due modelli vincono su righe completamente diverse, e che la stessa tabella di benchmark di NVIDIA confronta Bolt con un modello Qwen che non è questo.

Due modelli che non hanno nulla in comune tranne la multimodalità

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB è un modello visione-linguaggio da 74 miliardi di parametri compresso in un checkpoint a 2 bit che entra in 24 gigabyte di memoria. I suoi pesi sono stati resi disponibili su Hugging Face il 7 ottobre 2026; NVIDIA lo ha citato in un post di lancio il 15 ottobre. È progettato per il lavoro agentico in locale — invocazione di strumenti, navigazione web, uso del terminale, lettura di uno schermo — ed è venduto come download anziché come servizio, senza alcun prezzo a consumo pubblicato da nessuna parte.

Qwen3.8-Max è la costruzione opposta. Il modello di punta di Alibaba è un mixture-of-experts sparso che l'azienda posiziona direttamente contro i modelli chiusi più forti della sua finestra di lancio, servito attraverso tre formati di comunicazione — un'interfaccia compatibile con OpenAI, una compatibile con Anthropic e il DashScope proprietario di Alibaba — in regioni a Pechino, Singapore, Tokyo, Francoforte e Virginia. Il modello ospitato è stato lanciato il 3 agosto 2026 con input di immagini e video, un contesto da un milione di token e un interruttore per la modalità di pensiero; lo snapshot del 2 settembre è la versione attualmente valutata nelle classifiche. Il fratello open-weight della stessa famiglia, Qwen3.8-2.4T-A95B, è un rilascio separato e non è il modello misurato qui.

Uno è un file. Uno è un servizio. Il confronto ha comunque una sua utilità, perché il servizio pubblica un prezzo e il file no, e la differenza tra loro è ciò che un deployment locale sta effettivamente acquistando.

• Indice di intelligenza — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB: 21,4. Qwen3.8-Max: 45,4. Entrambi misurati indipendentemente da Artificial Analysis.

• Contesto — 262.144 token per il checkpoint NVIDIA, contro circa 983.000 per Qwen3.8-Max, con un output massimo di 131.072 token sul lato Alibaba.

• Parametri — 74B in totale e 9B attivi per Bolt; il tier di punta di Alibaba è un mixture-of-experts sparso di un ordine completamente diverso, che attiva circa 95B parametri per token nella sua forma open-weight.

• Input — testo, immagini e video in input, testo in output per entrambi. Questa è l'unica dimensione in cui i due sono davvero simili.

• Prezzo — Qwen3.8-Max: $2,00 per milione di token di input, $6,00 per milione di output, $0,25 per l'input in cache. Bolt: nulla, perché non esiste un endpoint da acquistare.

• Costo per attività dell'Intelligence Index — 5,41 $ per Qwen3.8-Max, misurato. Nessuna cifra per Bolt, per lo stesso motivo.

• Velocità — Qwen3.8-Max: 39,8 token di output al secondo con 3,06 secondi al primo token e una mediana di 50,3 secondi di tempo di ragionamento per risposta, il tutto misurato in modo indipendente. Bolt: non esiste alcuna misurazione indipendente del throughput.

Le righe, da cui provengono i 24 punti

Artificial Analysis li ha eseguiti entrambi. Leggere il dettaglio riga per riga è più utile del valore composito, perché il composito nasconde il fatto che nessuno dei due modelli è uniformemente in vantaggio.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 percento, misurato in modo indipendente. Bolt non ha una voce indipendente su questo benchmark; NVIDA riporta 50,98 sulla sua scheda del modello.

• GPQA Diamond — Qwen3.8-Max 92,8 per cento in modo indipendente. Il ​86,43 di Bolt è il dato di N​VIDIA stesso, e il panel non ha un numero indipendente per esso.

• Humanity's Last Exam, senza strumenti — Qwen3.8-Max 43,1 per cento contro il 24,7 per cento di Bolt, entrambi misurati in modo indipendente.

• Recupero su contesto lungo (AA-LCR) — 80,3 percento contro 69,7 percento, entrambi misurati.

• Programmazione scientifica (SciCode) — 52,1 percento contro 39,7 percento, entrambi misurati.

• Ragionamento multimodale (MMMU-Pro) — Qwen3.8-Max 82,8 percento, misurato in modo indipendente. Bolt non ha alcuna voce indipendente, il che è un'omissione notevole per un modello il cui principale argomento di vendita è che può vedere.

• Risultati occupazionali (GDPval-AA) — Qwen3.8-Max 0.583 normalizzato rispetto al 0.240 di Bolt, entrambi misurati.

• Operazioni agentiche e IT — Qwen3.8-Max registra 42,4 percento su APEX-Agents, 40,3 percento su ITBench-SRE e 45,0 percento su una valutazione analyst-agent. Bolt non ha punteggi indipendenti in nessuna di quelle tre colonne.

• Non allucinazione (AA-Omniscience) — Qwen3.8-Max 71,2 per cento contro il 56,3 per cento di Bolt, con un'accuratezza al 31,7 per cento contro il 17,1 per cento. A differenza del confronto Bolt contro Ultra, in cui il modello compresso vince la riga di calibrazione, qui è il flagship ad aggiudicarsi entrambe.

• Costo per attività di indicizzazione — 5,41 $ per Qwen3.8-Max. Questo è il valore più alto di costo per attività nella famiglia di confronti relativi a questo modello, ed è il numero che rende interessante l'opzione locale anche con un deficit di 24 punti.

Cosa si ottiene con 5,41 $ per attività, e cosa si ottiene invece con 24 GB

L'economia di Qwen3.8-Max è insolita per un modello di frontiera: il prezzo per token di 2,00 $ in input e 6,00 $ in output è moderato, ma il modello impiega molto tempo a ragionare. Il tempo di ragionamento mediano sulle esecuzioni del panel è di 50,3 secondi, e il tempo di risposta end-to-end è in media di 65,9 secondi. Un compito che richiede al modello un minuto di deliberazione interna genera molti token di output, e il costo per attività indice è la metrica che lo mette in luce. Non è una critica al modello — il ragionamento profondo è il prodotto — ma è il motivo per cui un ciclo di agenti ad alto volume diventa rapidamente costoso su questo livello.

È esattamente il carico di lavoro per cui Bolt è stato costruito. Un checkpoint locale non ha alcun contatore per token: il costo marginale di una chiamata a uno strumento è l'elettricità, e il costo fisso è una GPU. Per un agente sempre attivo che esegue migliaia di piccoli passi procedurali — leggere uno schermo, chiamare un endpoint, modificare un file — il confronto non è tra 21,4 e 45,4, ma tra una costante e una fattura in crescita. La stessa impostazione di NVIDIA è che Bolt esiste affinché le attività agentiche quotidiane possano essere eseguite localmente senza inviare il carico di lavoro al cloud, e riporta 50,86 su WebArena vision e 66,75 su BrowseComp proprio per quelle attività.

Il problema è che il costo fisso è reale e la latenza è sconosciuta. La ricetta di serving di riferimento di NVIDIA è composta da più passaggi: una build nightly di vLLM fissata a una versione specifica, il pacchetto di kernel b12x, un plugin di parsing del reasoning scaricato separatamente, backend Mamba e attention espliciti, e una configurazione di decodifica speculativa che usa il drafter LiLiCorr con sette token di bozza. Il throughput è pubblicato da NVIDIA a 83,99 token al secondo su AIPerf SPEED-Bench-Coding su una macchina di classe laptop — un numero del fornitore su un benchmark del fornitore, senza alcuna esecuzione indipendente con cui verificarlo.

Il baseline che N​VIDIA ha scelto

C'è un'ultima cosa degna di nota, ed è una lezione di lettura più che tecnica. La tabella dei benchmark sulla model card di Bolt include un modello Qwen come punto di confronto — e si tratta di Qwen3.6-35B-A3B, un modello molto più piccolo del flagship misurato in questa pagina. La tabella di NVIDIA mostra Bolt vincere su Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR e MCP-Atlas contro quel modello, mentre perde su accuratezza di AA-Omniscience, non-allucinazione di AA-Omniscience e PinchBench.

Quei confronti possono benissimo essere corretti. Ma un lettore che dalla tabella trae «Bolt batte Qwen» sta confrontando un modello edge da 74B con un MoE di classe densa da 35B, non con la fascia di frontiera di Alibaba. Rispetto a Qwen3.8-Max, il record indipendente va nella direzione opposta su quasi ogni riga condivisa, e il divario si allarga anziché chiudersi sui benchmark più difficili. Quando un fornitore sceglie i propri parametri di riferimento, la mossa onesta è controllare qual è il parametro di riferimento.

Come decidere

Scegli Qwen3.8-Max quando la correttezza è il vincolo. Se il compito è un'analisi multi-step, un ragionamento multimodale complesso, un lavoro agentico con conseguenze reali o qualsiasi cosa misurata dai benchmark sui quali totalizza 24 punti di vantaggio, l'opzione locale non è una candidata — e a $2,00 e $6,00 per milione di token, ha un prezzo da infrastruttura anziché da lusso. È anche il modello da scegliere quando il flusso di lavoro richiede output strutturati, tool calling nativo e un contesto da un milione di token in una sola chiamata, tutte caratteristiche che A​libaba documenta come supportate.

Scegli Bolt quando il vincolo è dove avviene il lavoro. Privacy, funzionamento offline, latenza che non dipende da una rete e un costo per chiamata che non esiste sono quattro argomenti distinti, e ciascuno è sufficiente da solo per alcune squadre. Il modello è competente nelle procedure e debole nel richiamo; puntalo sulle prime.

Per la metà ospitata, Qwen3.8-Max è raggiungibile tramite OrcaRouter come qwen/qwen3.8-max/ sulla stessa chiave di oltre 200 altri modelli, al prezzo di listino del provider Alibaba senza alcun ricarico aggiunto — il che significa che una variazione di prezzo del fornitore ricade dalla nostra parte lo stesso giorno, anziché alla fine di un ciclo di fatturazione. Questo conta più su questo livello che su uno economico, perché 5,41 $ per attività di indicizzazione è un numero che un team finanziario vorrà ricontrollare ogni mese. È sul problema del volume che il routing cambia la forma della decisione: un carico di lavoro composto per il 90 percento da piccoli passaggi procedurali e per il 10 percento da ragionamento complesso può inviare qui quel 10 percento e mantenere il resto in locale, con failover automatico tra provider, così che il livello ospitato si degradi in un nuovo tentativo anziché in un'interruzione del servizio.

Non ospitiamo alcun modello N​VIDIA e non abbiamo alcun endpoint Bolt — la famiglia N​emotron non è nel nostro catalogo, e la metà locale di questo confronto è una questione hardware che nessun livello di routing tocca.

Il numero irrisolto

Quello che nessuno ha pubblicato è la misurazione che renderebbe completo questo confronto: un test indipendente di latenza e throughput sul checkpoint da 24GB con batch size pari a uno, su una macchina che una persona può acquistare. Se un checkpoint da 74B a 2 bit si rivela in grado di eseguire passaggi interattivi di un agente a una velocità utilizzabile, il divario di 24 punti diventa un divario che si può aggirare — locale per la procedura, hosted per il ragionamento. In caso contrario, l'opzione locale è uno strumento batch e il confronto si riduce al prezzo. In ogni caso, la risposta è a una pubblicazione di distanza, ed è la cosa da cercare prima di pianificare un deployment attorno a questo modello.

Anche confronti come questo sono il punto in cui emergono le modalità di guasto: gli incidenti AI documentati e i fallimenti degli agenti dietro i modelli di questa classe sono raccolti in l'OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.