Nemotron 3.5 Transcribe vs Grok Voice Transcribe 2.0: pesi aperti sulla tua GPU, oppure 0,20 $ all'ora

Grok Voice Transcribe 2.0 addebita 0,20 $ per ogni ora di audio che gli invii in streaming e 0,10 $ per ogni ora che elabori in batch. Nemotron 3.5 Transcribe non addebita nulla all'ora e richiede di possedere una GPU in grado di contenere circa 34 miliardi di parametri. Leggendo solo quella frase, il confronto sembra una guerra dei prezzi tra un contatore e una macchina, con il contatore ovviamente perdente. Non perde: sull'unica classifica di benchmark in cui compaiono entrambi i modelli, quello a consumo è più accurato, e quello aperto non è abbastanza vicino da contestare la cosa.

I due sono stati rilasciati a sei settimane di distanza — Grok Voice Transcribe 2.0 il 2026-09-18, Nemotron 3.5 Transcribe il 2026-10-28 — e sono stati creati per compiti diversi. Uno è un'API ospitata con un WebSocket che restituisce parole mentre una persona sta ancora parlando. L'altro è un checkpoint che scarichi, carichi e punti su una registrazione già conclusa. Latenza, numero di lingue, etichette dei parlanti, struttura dei costi e perfino le condizioni legali derivano tutti da quella singola differenza, motivo per cui la domanda interessante non è quale dei due trascriva meglio.

Che cos'è ciascuno, in sei righe

Il contrasto di forma è così netto che un elenco di specifiche sembra un errore di categoria, ed è proprio questo il punto.

• Distribuzione — un'API REST e WebSocket ospitata sull'infrastruttura proprietaria di xAI rispetto ai pesi aperti secondo OpenMDW-1.1 che servi tu stesso su vLLM, SGLang-Omni o NeMo Speech.

• Dimensione — xAI non pubblica il numero di parametri, a fronte di 34B totali con circa 4,3B attivi, incluso l'encoder audio, basati su un backbone mixture-of-experts Mamba e Transformer Nemotron 3.5 Lightning 30B-A3B.

• Audio in ingresso — file fino a 500 MB in dodici formati contenitore più tre codifiche raw, con 2-8 canali tramite modalità multicanale, rispetto a registrazioni fino a un'ora a 16 kHz mono PCM all'interno di un contesto di 65.536 token.

• Percorso in tempo reale — streaming con risultati intermedi circa ogni 500 ms, endpointing predefinito a 400 ms, rilevamento intelligente dei turni e un endpoint batch separato, rispetto all'assenza totale di streaming; il modello legge un file completato e restituisce una trascrizione.

• Copertura linguistica — 37 lingue nominate nella documentazione di xAI e lì descritte come 38+, rispetto a 40 lingue trascritte e 31 coppie di traduzione da o verso l'inglese sulla scheda NVIDIA.

• Etichette dei parlanti — un flag di diarizzazione che aggiunge a ogni parola un numero intero identificativo del parlante, disponibile in batch e streaming, rispetto a un encoder di diarizzazione fuso che produce trascrizioni con attribuzione del parlante in un'unica passata per un massimo di 8 parlanti in 13 lingue.

• Prezzo — 0,10 $ per ora audio in batch e 0,20 $ per ora audio in streaming, rispetto all'assenza di una tariffa oraria pubblicata, perché NVIDIA vende i pesi e la potenza di calcolo la fornisci tu.

L'unica tavola dove si incontrano, e non si rompe come ti aspetti

Artificial Analysis gestisce una classifica speech-to-text con due corsie: una corsia batch per i file completati e una corsia streaming per i modelli che emettono parziali. Nemotron 3.5 Transcribe si qualifica solo per la prima. Lì, Grok Voice Transcribe 2.0 si colloca al 2,3% di AA-WER, quinto tra circa sessanta modelli, mentre il modello NVIDIA è indicato al 2,80% nei materiali di lancio e risulta al 3,4% nella tabella live nei giorni successivi al rilascio. Chiamalo 2,8% o 3,4%; in ogni caso il modello hosted vince l'unica scala che entrambi condividono, con un margine tra mezzo punto e un punto pieno.

Quel risultato è meno dannoso di quanto sembri a prima vista, perché i due modelli non sono in classifica per lo stesso motivo. La tesi di NVIDIA è che Nemotron 3.5 Transcribe sia il miglior modello vocale open-weight, e su quella classifica più ristretta lo è: il confronto che vince è contro altri checkpoint scaricabili, dove 2,8% è il numero da battere. Grok Voice Transcribe 2.0 è un modello proprietario e compete in una corsia diversa. Confrontare i due l'uno contro l'altro produce un titolo — "il modello hosted batte il modello open di 0,5 punti" — che misura un mix di benchmark, non una decisione di prodotto.

La corsia dello streaming è il punto in cui l'asimmetria diventa strutturale anziché statistica. Grok Voice Transcribe 2.0 occupa la prima posizione nello streaming con un WER finale del 2,7%, emesso 0,49 secondi dopo la fine del parlato, e del 3,4% sul primo parziale alla stessa latenza, primo tra circa trentadue modelli di streaming. Nemotron 3.5 Transcribe non ha voce in classifica, perché non può fare streaming. È un modello file-in, transcript-out, e non è documentato alcun percorso di streaming a blocchi per esso. Chiunque confronti i due sull'accuratezza mentre pianifica un impiego per i sottotitoli dal vivo confronta un modello che non può usare.

Entrambe le tabelle riportano un avvertimento che vale la pena ripetere. AA-WER varia di quasi un punto pieno per lo stesso modello tra diversi endpoint di servizio, quindi il divario di 0,5 punti sopra indicato corrisponde all'incirca all'ampiezza del rumore di misurazione: reale in direzione, debole come verdetto. E il dato del 6,8% di xAI stesso sulle frasi brevi multilingui, in calo dal 20,6% nella versione 1.0, è tratto da un set interno costruito a partire dal traffico di produzione, non da un corpus pubblicato. È un'affermazione del fornitore su un set del fornitore, e non compare affatto su Artificial Analysis.

Lo streaming è il limite che il modello aperto non può superare.

Per un agente di call centre, un sottotitolo in tempo reale, un assistente per riunioni o un voice bot, la decisione è già presa prima ancora di considerare l'accuratezza. Grok Voice Transcribe 2.0 accetta frame audio binari grezzi tramite WebSocket — pcm, mulaw, alaw o opus — restituisce risultati intermedi circa due volte al secondo e fornisce segnali di fine turno tramite endpointing e rilevamento intelligente del turno. Sono questi i meccanismi che fanno sembrare una trascrizione in tempo reale, ed è per questo che Loom di Atlassian ha spostato la propria libreria video sul modello al lancio.

Nemotron 3.5 Transcribe ha per progettazione una forma opposta. Legge fino a un'ora di audio in un'unica passata e restituisce una trascrizione completa, con timestamp a livello di parola prodotti da un adattatore CTC leggero dopo la generazione anziché durante la stessa. Questa progettazione garantisce accuratezza su registrazioni lunghe e disordinate e comporta latenza su tutto ciò che è breve e interattivo. NVIDIA ha nella sua gamma un riconoscitore vocale in streaming separato e molto più piccolo — Nemotron Speech Streaming EN 0.6B — ma è un modello diverso con una copertura diversa, non una modalità streaming di questo checkpoint. Comprare il modello 30B aspettandosi di aggiungervi lo streaming in seguito significa comprare due volte la cosa sbagliata.

Quaranta lingue contro trentasette, e un conteggio che è cambiato

Sulla carta il divario è di tre lingue. In pratica dipende da quale pagina si legge. La documentazione speech-to-text di xAI elenca 37 lingue denominate — dall'arabo e dal bosniaco fino all'urdu e al vietnamita, con varianti regionali per spagnolo, portoghese e arabo — e descrive il totale come 38+. La copertura pubblicata intorno al lancio di settembre indicava 25. La documentazione è la fonte più aggiornata e più specifica, ma un conteggio delle lingue che varia di tredici tra un post di lancio e una pagina di documentazione è un conteggio da verificare con il proprio audio anziché adottarlo.

La scheda di NVIDIA è più dettagliata e, per una volta, più conservativa: 40 lingue con una tabella di segni di spunta per lingua, e 13 di queste contrassegnate per la trascrizione multi-parlante. Quelle che contano per l'attribuzione del parlante sono un insieme più ristretto rispetto alle 40: arabo, mandarino, inglese, francese, tedesco, hindi, italiano, giapponese, coreano, portoghese, russo, spagnolo e thai. Se il tuo archivio è in polacco o turco, Nemotron 3.5 Transcribe lo trascriverà bene e non ti dirà chi ha detto cosa, che è la capacità che probabilmente stavi acquistando.

Qui la traduzione è una colonna esclusiva di Nemotron. Il modello traduce da e verso l'inglese su 31 coppie nello stesso passaggio in cui trascrive, cosa che Grok Voice Transcribe 2.0 non offre; l'API di xAI restituisce il testo nella lingua parlata. Se il lavoro consiste in verbali di riunioni bilingui, questa è una funzionalità che nessun prompt engineering sul lato Grok potrà riprodurre.

Etichette dell’interlocutore: un encoder fuso rispetto a un booleano

Questa è l'unica dimensione in cui i due sono più simili di quanto il marketing suggerisca, e in cui la risposta onesta è che entrambi lo fanno.

• Nemotron 3.5 Transcribe — un modello Nemotron 3 Diarization congelato fornisce rappresentazioni dell'attività dei parlanti all'encoder ASR, così il modello linguistico vede chi sta parlando come parte del proprio input. L'output include etichette dei parlanti e segmenti grezzi, fino a 8 parlanti, e timestamp a livello di parola. È un'unica passata senza un secondo servizio intermedio.

• Grok Voice Transcribe 2.0 — imposta diarize=true e ogni parola viene restituita con un campo speaker intero, sia in batch sia in streaming. La modalità multicanale va oltre: fino a 8 canali trascritti in modo indipendente e restituiti con un indice di canale, il che offre un'attribuzione esatta quando la fonte è una registrazione multicanale anziché una registrazione mixata.

La differenza pratica sta nella copertura, non nell'esistenza. Il flag di Grok funziona in tutte le lingue supportate dalla sua API; il percorso fuso di NVIDIA è addestrato per 13. E il multicanale è un vero vantaggio nelle stanze in cui si applica: una sala riunioni con un microfono per postazione non ha bisogno che un diarizzatore indovini. Un file mono misto proveniente da una sala conferenze invece sì, e lì il divario di qualità tra un encoder fuso e un flag ospitato è qualcosa che solo il tuo audio può chiarire.

L'aritmetica a mille ore al mese

Il prezzo è il punto in cui i due modelli divergono davvero, e vale la pena fare i conti invece di scambiarsi aneddoti sulle bollette delle GPU.

A 1.000 ore audio al mese, Grok Voice Transcribe 2.0 costa $100 in modalità batch o $200 in streaming — $1.200 o $2.400 l'anno, senza hardware, senza finestre di manutenzione e senza cold start. Nemotron 3.5 Transcribe costa quanto costa la GPU. La pagina di ricerca di NVIDIA afferma che il checkpoint NVFP4 con il modello draft DFlash2 trascrive 2.238 secondi di audio al secondo su una singola RTX PRO 6000 Blackwell, il che, anche riducendo di un ordine di grandezza, fa rientrare 1.000 ore di audio in poche ore GPU al mese. La potenza di calcolo non è il vincolo; la proprietà sì.

• Punto di pareggio rispetto alla tariffa streaming — una scheda workstation da $8.000 si ripaga dopo 40 mesi di 1.000 ore di streaming, oppure 80 mesi rispetto alla tariffa batch.

• A 10.000 ore al mese — la stessa scheda va in pareggio in quattro mesi rispetto allo streaming, e la tariffa oraria scende a circa 2 centesimi.

• GPU cloud a noleggio — un H100 a circa 2 dollari all'ora batte i prezzi di listino di entrambi i modelli non appena l'affermazione del fornitore sul throughput regge anche solo a una frazione del valore dichiarato; il costo fisso diventa il tempo di ingegneria, lo spazio di archiviazione e il fatto che ora si gestisce un server per il modello.

Il punto di pareggio, quindi, non riguarda affatto l’accuratezza della trascrizione. Riguarda il volume e se l’audio è autorizzato a lasciare la vostra rete. Al di sotto di qualche migliaio di ore al mese, la tariffa del servizio ospitato è più economica dell’ingegnerizzazione. Al di sopra, o dietro una barriera di conformità, i pesi hanno la meglio e il confronto si inverte.

Dove OrcaRouter è adatto, e dove non lo è

Nessuno di questi due trascrittori è oggi nel catalogo di OrcaRouter; i modelli che serviamo sono modelli di testo e di visione, e nulla qui va interpretato come un endpoint per nessuno dei due. Ciò che una pipeline di trascrizione genera è una grande mole di testo che poi richiede sintesi, estrazione di entità, redazione, classificazione e ricerca. È in queste chiamate che una singola chiave compatibile con OpenAI per oltre 200 modelli si ripaga: il prezzo di listino del provider viene trasferito con un ricarico dello 0%, così un taglio di prezzo del fornitore arriva lo stesso giorno, failover automatico quando un upstream degrada, e un DSL di routing che può indirizzare il lavoro di classificazione a basso costo verso un modello piccolo, mantenendo la costosa sintesi su un modello di frontiera. Se esegui Nemotron 3.5 Transcribe in self-hosting, la GPU è il tuo trascrittore; il routing è ciò che accade alla trascrizione in seguito.

Quale scegliere?

La decisione riguarda il clock sull'audio, non la scheda del modello.

• Audio dal vivo, agenti vocali, didascalie, instradamento delle chiamate — Grok Voice Transcribe 2.0, senza troppe discussioni. Lo streaming è nativo, la latenza è inferiore a mezzo secondo fino alla trascrizione finale, e l'endpoint batch è lo stesso modello per il backfill notturno.

• Registrazioni completate con più interlocutori, in lingue diverse dall'inglese — Nemotron 3.5 Transcribe, a condizione che tu abbia la GPU e che il percorso per parlanti in 13 lingue copra il tuo audio. Questo è il caso per cui il modello è stato creato, e in cui 40 lingue e la diarizzazione in un'unica passata superano un divario di accuratezza di 0,5 punti.

• Archivi bilingui — Nemotron 3.5 Transcribe, perché le coppie di traduzione vengono incluse nella stessa passata e Grok non traduce.

• Volume ridotto, niente GPU, solo inglese — Grok Voice Transcribe 2.0 in modalità batch a $0,10 all'ora. Mille ore costano cento dollari; nessuna libertà di licenza open-weight compensa l'acquisto di una scheda Blackwell per risparmiare quella cifra.

La quarta risposta, quella allettante — distribuire Nemotron adesso e aggiungere lo streaming in seguito — non esiste. Il modello che NVIDIA ha rilasciato è deliberatamente offline, e la linea streaming che vende in abbinamento è un riconoscitore inglese da 0,6B, non una modalità di questo. Scegli prima la configurazione che ti serve; la discussione sulla classifica può aspettare, perché mezzo punto di AA-WER rientra abbondantemente nell'intervallo in cui si muove lo stesso modello quando cambia host.