Nemotron 3.5 Bolt vs Kimi K3: un download da 24 GB contro un lettore da 2,8 trilioni di parametri

La risposta breve e onesta è che questi due modelli non competono per lo stesso compito, e il motivo è misurabile in un solo numero. Kimi K3 contiene 1.048.576 token di contesto. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB ne contiene 262.144. Se il tuo compito è "leggere questo intero corpus e rispondere in un'unica passata", il checkpoint da 24GB è squalificato prima ancora che qualsiasi altra sua caratteristica conti — e se il tuo compito è "girare su una workstation senza rete, senza contatore e senza alcun fornitore coinvolto", anche Kimi K3 non è in discussione. Kimi K3 è un modello mixture-of-experts da 2,8 trilioni di parametri pubblicato da Moonshot AI il 15 luglio 2026 tramite un'API proprietaria ospitata. Nemotron 3.5 Bolt 74B-A9B 24GB è un file a pesi aperti che impiega 9 miliardi dei suoi 74 miliardi di parametri per ogni singolo token e sta in 24GB di memoria.

Il checkpoint Bolt è comparso su Hugging Face il 7 ottobre 2026 senza alcun annuncio allegato. Il post di NVIDIA stesso che nominava il modello — e il suo fratello da 4GB, Nemotron 3.5 Bolt E4B — è arrivato il 15 ottobre, otto giorni dopo. Vale la pena conoscere questo ordine cronologico perché determina ciò che è verificabile: otto giorni di documentazione pubblica consistono in un file scaricabile e una model card, e la prosa che lo spiega è arrivata in seguito.

Cosa è progettato per fare ciascun modello

Kimi K3 è il modello di punta di Moonshot e il suo rilascio più capace fino ad oggi: un mixture-of-experts sparso da 2,8 trilioni di parametri con circa 104 miliardi di parametri attivi per token, progettato per il coding a lungo orizzonte e il lavoro di conoscenza end-to-end, accetta testo e immagini e restituisce testo. Viene erogato come servizio, non distribuito. Non esiste alcun download, nessuna build quantizzata da eseguire localmente e nessuna versione abbastanza piccola per un laptop.

Nemotron 3.5 Bolt è la costruzione opposta. NVIDIA ha preso il suo modello 120B-A12B Nemotron 3.5 Super VL, ha applicato una compressione guidata dal router che chiama Star Elastic per raggiungere 74B-A9B, e poi ha quantizzato il risultato a 2,0625 bit per elemento esperto — un formato IQ2_XXS — con distillazione consapevole della quantizzazione per recuperare l'accuratezza che il prezzo fa perdere. Il backbone è un ibrido Mamba-2 e Transformer che il fornitore chiama LatentMoE, con un encoder visivo C-RADIO v4-H per input di immagini e video. Funziona sotto vLLM su componenti Ampere, Hopper e Blackwell, e su hardware RTX Spark e DGX Spark tramite llama.cpp, sotto la licenza OpenMDW-1.1 che ne consente l'uso commerciale.

Leggere un lungo corpus, con prezzo

È qui che il confronto diventa aritmetica più che preferenza. Kimi K3 viene instradato su OrcaRouter al prezzo di listino di Moonshot senza alcuna aggiunta: 3,00 $ per milione di token in input, 15,00 $ per milione di token in output e letture dalla cache a 0,30 $. Il suo tempo p50 al primo token sul nostro catalogo è di 7,02 secondi, con un p95 di 10,00 secondi, e negli ultimi sette giorni ha trasportato 990,6 milioni di token di traffico instradato sul nostro catalogo: la lettura a contesto lungo su larga scala è un carico di lavoro reale, non un esperimento mentale.

Nemotron 3.5 Bolt non ha un prezzo, perché non c'è nulla da prezzare. Non esiste un endpoint ospitato per esso, né un'API del fornitore, né un listino prezzi, e Artificial Analysis indica sia la sua velocità sia il suo costo per attività dell'Intelligence Index come N/A esattamente per questo motivo. Quello che ha invece è un tetto di memoria che si acquista una volta sola, e un costo marginale che si arrotonda alla bolletta elettrica. Per una pipeline che legge un corpus fisso ogni notte, la differenza tra 3 $ per milione di token di input e zero non è uno sconto — è un modello contabile diverso, e il punto di pareggio è una questione di spesa in conto capitale a cui risponde il tuo team finanziario, non questo articolo.

La visione non è il fattore decisivo che le persone immaginano.

Entrambi i modelli accettano immagini. È qui che finisce la somiglianza.

• Input — Kimi K3 accetta testo e immagini; Nemotron 3.5 Bolt accetta testo, immagini e video. Per un agente che guarda una registrazione dello schermo o campiona fotogrammi da un feed della telecamera, solo uno di questi può ricevere direttamente il file.

• Precisione del percorso visivo — Bolt monta un encoder visivo C-RADIO v4-H realizzato appositamente e ne eredita il comportamento multimodale dal client Super VL da cui è stato compresso; la comprensione visiva di Kimi K3 è documentata come nativa, ma non è la parte del modello con cui Moonshot si presenta. La tabella di NVIDIA stessa riporta per Bolt un punteggio WebArena vision di 50,86; consideralo un dato dichiarato dal fornitore.

• Controllo del ragionamento — Kimi K3 non espone temperatura, né top_p, né seed, con la profondità di ragionamento impostata unicamente da un parametro reasoning-effort; la modalità di ragionamento di Bolt è un interruttore del template di chat, enable_thinking true o false, ereditata dallo stesso client Super VL.

• Speculazione — Bolt viene fornito con un drafter LiLiCorr azionato tramite DFlash che propone sette token in anticipo a ogni passo, ed è il meccanismo alla base dell'affermazione di NVIDIA di 84 token al secondo su AIPerf SPEED-Bench. Non esiste una leva equivalente su un endpoint ospitato; ottieni ciò che l'operatore mette a disposizione.

Il divario misurato, e di cosa è fatto

Artificial Analysis colloca Kimi K3 a 43,6 sul suo Intelligence Index e Nemotron 3.5 Bolt a 21. Non c'è modo di interpretarlo come un testa a testa. Le righe di supporto di Kimi K3 sono solide nei punti in cui un lettore a contesto lungo ne ha bisogno — un AA Coding Index di 76,2 al nono posto su 138 modelli misurati, un punteggio GPQA Diamond di 93,5 e un valore di richiamo a contesto lungo di 88,7, che è il numero che ti dice che la finestra da un milione di token è utilizzabile e non semplicemente dichiarata.

Il 21 di Bolt è un risultato di tipo diverso. È il quarto punteggio più alto tra 67 modelli nella sua classe filtrata per footprint, contro una mediana di classe di 8, e Artificial Analysis lo descrive come tra i principali modelli open-weight di dimensioni simili. Il modo corretto di considerare entrambi i numeri è che uno misura ciò che un laboratorio di frontiera può fare senza un vincolo di memoria e l'altro misura ciò che 24GB possono contenere. Ventidue punti indice sono il prezzo del vincolo, non la prova che il modello più piccolo sia stato costruito male.

Ciò che manca dalla parte di Bolt è una qualsiasi misurazione indipendente della sua velocità. NVIDIA dichiara almeno 80 token al secondo di decoding come obiettivo di progetto e 84 sul proprio benchmark, con 83,99 token al secondo in un'esecuzione di llama.cpp su un Surface Laptop Ultra con 128GB. Al momento in cui scriviamo, nessuna terza parte ha pubblicato un valore di throughput o di latenza per i pesi da 24GB. La latenza di Kimi K3, al contrario, è misurata e pubblica — 7,02 secondi p50 al primo token, 10,00 secondi p95 — e sono quei numeri su cui pianificare, non quelli del fornitore.

Laddove un livello di routing cambia la risposta

Kimi K3 è nel nostro catalogo come kimi/kimi-k3 al prezzo di listino di Moonshot con 0% di markup aggiunto, collocato dietro la stessa chiave di oltre 200 altri modelli, con failover automatico tra i provider upstream quando uno si degrada. Nemotron 3.5 Bolt non è nel nostro catalogo — non ospitiamo alcun checkpoint NVIDIA e non esiste alcun endpoint Bolt da chiamare — quindi la questione di routing qui non è quale dei due serviamo. È come le due metà di una pipeline reale comunicano tra loro.

Il pattern che funziona è un lettore locale e un ragionatore ospitato. Bolt risiede sul tuo hardware e gestisce i passaggi ad alta frequenza in cui i dati non devono uscire dall'azienda e il volume renderebbe dolorosa la fatturazione per token. Kimi K3 gestisce le richieste che richiedono una finestra da un milione di token o un ragionamento su scala di frontiera, a 3 e 15 dollari per milione di token. Metti una regola di routing davanti a entrambi e la suddivisione diventa una riga di configurazione anziché un refactoring: una richiesta che supera il budget di contesto locale va a Kimi K3, tutto il resto resta sulla workstation. La fusione di modelli è la variante che vale la pena conoscere se le chiamate costose sono quelle importanti: diversi modelli rispondono insieme allo stesso prompt e si prende l'accordo.

Cosa guardare

Le prove specifiche che risolverebbero questo abbinamento sono limitate e imminenti. Una prima esecuzione indipendente di throughput e latenza sui pesi Bolt da 24 GB confermerebbe gli 84 token al secondo di NVIDIA oppure lo ridimensionerebbe; un prezzo di hosting pubblicato per Bolt trasformerebbe la metà relativa ai costi di questo confronto in aritmetica; e una seconda misurazione del recall su contesto lungo per Kimi K3 confermerebbe che il suo 88,7 è una proprietà del modello anziché una proprietà di un singolo harness.

Fino ad allora, la sintesi è più ristretta dell'inquadramento di entrambi i fornitori. Kimi K3 è il modello migliore su ogni asse che un benchmark possa misurare, ed è l'unico dei due che puoi chiamare questo pomeriggio. Nemotron 3.5 Bolt è l'unico dei due che continua a funzionare quando la rete non c'è, e l'unico il cui costo marginale per token è zero. Scegli il secondo per il lavoro che non avrebbe mai dovuto essere inviato da nessuna parte, e il primo per il lavoro che ha bisogno di portata.