Nemotron 3.5 Transcribe sostituisce una pipeline composta da cinque modelli. La build open presenta ancora lacune.

Una chiamata del consiglio di amministrazione di 45 minuti con sei interlocutori richiedeva cinque parti mobili: rilevamento dell'attività vocale, un modello ASR, un diarizzatore, un allineatore forzato e un modello linguistico per ripulire l'output grezzo e renderlo qualcosa che un umano leggerebbe. NVIDIA Nemotron 3.5 Transcribe, pubblicato il 28 ottobre 2026 con licenza OpenMDW-1.1, è il tentativo di NVIDIA di ridurre quel stack a un singolo forward pass. Ciò che rende il rilascio degno di una seconda lettura non è la riduzione in sé. È l'elenco delle cose che il percorso di serving open source non fa ancora.

Il checkpoint è un modello linguistico aumentato con il parlato, non un modello ASR con extra aggiunti a posteriori. I suoi 34 miliardi di parametri sono in gran parte costituiti da Nemotron 3.5 Lightning 30B-A3Buna backbone ibrida Mamba–Transformer mixture-of-experts; circa 4,3 miliardi sono attivi per token, inclusi circa 800 milioni di encoder audio. Il nome del repository riporta ancora 30B-A4B, che conta il decoder e non il sistema assemblato. La matrice di supporto di NVIDIA stessa, le tabelle dei benchmark e la licenza sono tutte sulla model card, e quella card è il documento più utile della release.

Cinque lavori, un checkpoint

Il punto è che un prompt sceglie la trascrizione. NVIDIA addestra cinque stili di output negli stessi pesi, e il chiamante ne seleziona uno con istruzioni in linguaggio naturale anziché con un modello separato o uno script di post-processing:

• Verbatim — disfluenze, falsi inizi e ripetizioni preservati, per la documentazione legale e di conformità.

• Forma scritta — punteggiatura e maiuscole ripulite, per sottotitoli e verbali leggibili.

• Contestuale — un elenco di entità fornito nel prompt orienta l'ortografia di nomi, prodotti e gergo.

• Con attribuzione del parlante — ogni segmento contiene un tag del parlante, generato durante la fase ASR.

• Rich — lo stile "tutto incluso" che riunisce etichette del parlante, punteggiatura, maiuscole/minuscole e formattazione.

Oltre alla trascrizione, lo stesso checkpoint esegue traduzione vocale in entrambe le direzioni tra l'inglese e 31 lingue, identificazione della lingua parlata e comprensione audio — risposta a domande e esecuzione di istruzioni vocali sulla registrazione. Gestisce registrazioni fino a un'ora all'interno di un contesto di 65.536 token, usando blocchi di decodifica interni da 30 secondi che sono un dettaglio ingegneristico più che un limite della registrazione. Le marche temporali delle parole provengono da un adattatore CTC leggero dopo la decodifica.

Da dove provengono realmente le etichette dei relatori

La maggior parte delle affermazioni secondo cui "un solo modello fa tutto" crolla sulla diarizzazione, perché l'identità del parlante è un problema di clustering e la trascrizione è un problema di sequenza, e i due vengono di solito risolti separatamente. La risposta di NVIDIA è un encoder esperto parallelo: un modello Nemotron 3 Diarization congelato produce rappresentazioni dell'attività dei parlanti che vengono iniettate nell'output dell'encoder vocale, così il backbone linguistico vede chi sta parlando mentre decide che cosa è stato detto. L'LLM stesso non viene riaddestrato per questo compito.

Quel design è il motivo per cui l'azienda può rivendicare un'unica passata invece di una cascata. NVIDIA riporta un tasso medio di errore di parola concatenato a permutazione minima di 15,80 sul proprio set di valutazione multi-parlante, contro 16,83 per la migliore cascata specializzata ASR più diarizzatore, e descrive il risultato come il primo LLM vocale a superare quel tipo di sistema nella trascrizione con attribuzione del parlante in presenza di parlato sovrapposto. Si tratta di cifre del fornitore provenienti da un set di valutazione realizzato dal fornitore, e nessun laboratorio neutrale le ha ancora riprodotte. Considerate la direzione plausibile e il margine provvisorio.

I numeri, con le etichette allegate

La scheda di NVIDIA riporta un tasso medio di errore sulle parole del 4,71% sui nove set di test pubblici dell'English Open ASR Leaderboard. La dispersione sotto quella media è ampia e vale la pena conoscerla prima di citarla: LibriSpeech test-clean si colloca all'1,09% e SPGISpeech all'1,91%, mentre AMI arriva al 7,81% e URGENT24 all'11,00%. La classifica multilingue ha una media del 4,62% su sette lingue, con il tedesco al 2,81% e l'hindi al 9,15% sulla propria metrica out-of-vocabulary.

Anche la copertura stampa del lancio ha citato 5,33% per il board inglese. Si tratta di un aggregato diverso su una diversa composizione del set, non di una correzione, e i due non dovrebbero mai essere collocati nella stessa riga. Il 4,71% della scheda è il numero da citare se si sta citando la scheda.

L'affermazione sul prompting contestuale è la cosa più concreta nel comunicato. Su ContextASR-Bench, il WER complessivo passa da 3,33% senza un elenco di entità a 1,71% con un elenco dettagliato; il WER sulle entità nominate scende da 12,21% a 2,20%, e il tasso di falsi negativi sulle entità nominate da 14,99% a 1,32%. È un meccanismo reale e verificabile — fornisci al modello i nomi dei tuoi prodotti e smette di tirare a indovinare — anche se i punteggi assoluti provengono dall'harness di NVIDIA.

Il quadro indipendente è meno lusinghiero e più utile. Artificial Analysis colloca Nemotron 3.5 Transcribe al 3,4% nella sua tabella AA-WER v2 non-streaming, a pari merito intorno al 20º-23º posto, mentre le sue FAQ descrivono il modello al 2,8%. Entrambi i numeri appartengono alla stessa scheda sulla stessa pagina. La differenza è una differenza di obiettivo di misurazione — endpoint, quantizzazione o porzione di valutazione — ed è all'incirca l'ampiezza del rumore che questo indice ha mostrato tra le varie configurazioni di servizio. Al momento in cui scriviamo, la scheda riporta anche un prezzo ospitato di $2,00 per 1.000 minuti di audio, che corrisponde a circa $0,12 all'ora.

L'affermazione sulla velocità di elaborazione è quella che starà a cuore ai team operativi: 2.238 secondi di audio elaborati al secondo su una singola GPU RTX PRO 6000 Blackwell, utilizzando il checkpoint NVFP4 e il modello draft DFlash2. L'avvertenza di NVIDIA stessa è che lo stack di serving ottimizzato non è incluso nella release open source, e si prevede che l'integrazione di sviluppo distribuita giri all'incirca due volte più lentamente. Dimezza il numero prima di pianificare la capacità.

Dove si ferma la build aperta

Questa è la parte che la copertura del lancio salta. Il checkpoint è capace; le integrazioni attorno ad esso sono disomogenee, e la scheda del modello lo dice chiaramente.

• Nessuno streaming — «Questo è un modello offline», afferma la scheda, e aggiunge che la segmentazione interna dell'audio non lo rende un servizio di streaming in tempo reale. Ogni secondo della registrazione deve esistere prima che inizi la decodifica.

• L'integrazione SGLang-Omni è solo per la trascrizione: fornisce la trascrizione dell'intero file ma, secondo la scheda, non include timestamp a livello di parola, output con attribuzione del parlante, traduzione o decodifica speculativa. Il percorso vLLM supporta invece la cattura dei timestamp. Il runtime che scegli determina quali funzionalità ottieni.

• I timestamp e DFlash2 si escludono a vicenda — i timestamp non sono disponibili quando è in uso il modello draft della decodifica speculativa. Veloce o allineato, non entrambi, nella configurazione rilasciata.

La comprensione audio è solo in inglese — il ragionamento, l'esecuzione di istruzioni vocali e la risposta alle domande audio "potrebbero non funzionare in modo affidabile in altre lingue," avverte la scheda, anche se la trascrizione copre 40.

• Può non riuscire a fermarsi — la scheda raccomanda una salvaguardia di pulizia perché il modello può talvolta entrare in loop senza terminare. Si tratta di un requisito operativo, non di una nota a piè di pagina.

• Un'ora è un limite pratico rigido — non è garantito che le prestazioni oltre i 65.536 token o una registrazione di un'ora «si generalizzino». Per una deposizione che dura tutto il giorno, devi dividere il file e riconciliare i parlanti da solo.

L'attribuzione degli speaker è anche più limitata rispetto al titolo delle 40 lingue: 13 delle 40 lingue sono contrassegnate per l'output multi-speaker nella matrice di NVIDIA, e le miscele di addestramento coprono fino a otto speaker. Se la tua riunione è in turco o vietnamita, puoi trascriverla bene e comunque non ottenere le etichette.

Distribuzione e quanto costa

I pesi sono gratuiti per uso commerciale e non commerciale secondo OpenMDW-1.1, pubblicati in BF16, FP8, NVFP4 e GGUF, con una configurazione di riferimento su una H100 da 80 GB e supporto su componenti Ampere, Hopper, Blackwell e Lovelace. C'è anche un container NIM per i team che preferirebbero non assemblare lo stack di serving, e NeMo Speech per il fine-tuning — NVIDIA riferisce di aver adattato il modello su 17 attività a 0,5–2,3 GPU-ora per attività su una GPU, che è il tipo di numero che rende l'adattamento al dominio plausibile anziché teorico.

L'analisi economica si divide nettamente. In modalità hosted, il prezzo indicato da Artificial Analysis di $2,00 per 1.000 minuti equivale a circa $0,12 per ora audio — meno costoso della maggior parte dei servizi di trascrizione gestiti e all'incirca un terzo di una tipica bolletta STT cloud. In modalità self-hosted, il costo marginale è il tempo GPU: con il rapporto di throughput di 2.238 a 1 del fornitore, mille ore di audio richiedono meno di mezz'ora di calcolo sulla scheda giusta, quindi la questione smette di essere il prezzo e diventa se possiedi o noleggi l'hardware, e se all'audio è consentito uscire dalla tua rete. Entrambe le strade sono legittime; su un foglio di calcolo non sono affatto vicine.

La metà del lavoro che il checkpoint non fa

La trascrizione produce testo, e il testo è dove si concentra la maggior parte dei costi a valle: riassumere la chiamata, estrarre le attività da svolgere, oscurare i dati personali, tradurre l'output in inglese per un ufficio regionale e verificare che le etichette dei parlanti abbiano superato il passaggio. Si tratta di normali carichi di lavoro sui modelli di testo, e non devono essere eseguiti sulla stessa macchina dell'ASR.

È qui che un router si guadagna il suo posto. OrcaRouter mette quelle chiamate a valle dietro un'unica chiave con markup 0% — il prezzo di listino del provider viene applicato così com'è, quindi una variazione di prezzo del fornitore si riflette lo stesso giorno — con failover automatico quando un provider si degrada e un DSL di routing che può indirizzare sintesi, oscuramento e traduzione verso modelli diversi all'interno di un unico flusso di lavoro. Per essere chiari: NVIDIA Nemotron 3.5 Transcribe non è nel catalogo di OrcaRouter, e nulla qui implica il contrario. Ciò che instradiamo è il livello di testo dopo che la trascrizione esiste, che è il livello che la maggior parte dei team sottovaluta quando calcola il budget di una pipeline di trascrizione.

Se stai valutando il modello in sé, il percorso onesto è prima un endpoint ospitato e poi il tuo hardware. I numeri riportati sulla scheda differiscono di più di un punto tra le misurazioni del fornitore e quelle indipendenti, e l'unico audio che chiarisce la questione è il tuo.

Che cosa cambierebbe la raccomandazione?

Tre cose meritano attenzione nel prossimo trimestre. Primo, se lo stack di serving open-source raggiungerà il percorso NIM ottimizzato: finché non lo farà, il throughput pubblicizzato sarà un dato valido solo per l'hosting e la release aperta ne rappresenta circa la metà. Secondo, se qualcuno al di fuori di NVIDIA riprodurrà il cpWER di 15,80 e il miglioramento di sei volte sulle named entity: entrambe sono affermazioni forti che attualmente si basano sul framework di un solo laboratorio. Terzo, se la comprensione audio si estenderà oltre l'inglese, perché quella capacità — porre domande a una registrazione invece di limitarsi a trascriverla — è la parte che nessun checkpoint aperto concorrente offre a queste dimensioni.

Per ora il verdetto pratico è limitato e poco allettante. Se hai bisogno di trascrizione multilingue di un'ora con etichette dei parlanti e puoi accettare un flusso di lavoro batch, questo checkpoint è l'opzione aperta più valida disponibile e il meccanismo di prompting contestuale è davvero distintivo. Se hai bisogno di didascalie in tempo reale, di un agente di streaming o di allineamento a livello di parola insieme alla decodifica più rapida possibile, la release non copre ancora le tue esigenze, e i prodotti che lo fanno restano quelli a cui rivolgersi.