Nemotron 3.5 Transcribe vs NVIDIA Parakeet TDT 0.6B: il campione in carica con 626.000 download incontra il suo sostituto

Più di 626.000 download su Hugging Face appartengono a NVIDIA Parakeet TDT 0.6B, il trasduttore da 600 milioni di parametri che è stato il riconoscitore inglese self-hosted predefinito da quando è apparso nell'agosto 2025. Quasi nessuno lo esegue da solo: la distribuzione standard prevede Parakeet per le parole, un diarizzatore separato per i parlanti e una fase di fusione per unire i due output ai confini dei segmenti. Nemotron 3.5 Transcribe, pubblicato come pesi aperti il 28 ottobre 2026, è l'offerta di NVIDIA per eliminare quello strato intermedio — un unico checkpoint che trascrive, separa fino a otto voci e assegna loro un timestamp, in quaranta lingue, senza una cascata. È anche quarantatré volte più lento per GPU-secondo e circa venticinque volte più grande sul disco, ed è questa la parte con cui l'annuncio non esordisce.

La cosa interessante di questo confronto è che entrambi i modelli appartengono alla stessa azienda. Non si tratta di uno sfidante che arriva dall’esterno per spodestare un incumbent; è NVIDIA che ti vende un secondo prodotto, molto più pesante, per svolgere la metà del lavoro per cui il suo primo prodotto non è mai stato progettato.

Due architetture, due teorie del lavoro

Parakeet TDT 0.6B v3 è un encoder FastConformer che alimenta un decoder transduttore token-e-durata. Un modello TDT predice sia un token sia una durata a ogni passo, il che gli consente di saltare i frame e di andare ben oltre il tempo reale; è proprio questo il motivo per cui è veloce. Copre 25 lingue europee con rilevamento automatico della lingua, dispone di timestamp nativi a livello di parola e viene distribuito con licenza CC-BY-4.0, che è quanto di più libero possa esserci per una licenza. Non ha alcuna rappresentazione dello speaker — nemmeno debole, nessuna.

Nemotron 3.5 Transcribe è un modello linguistico aumentato vocale: un codificatore vocale, un modello Nemotron 3 Diarization congelato che inietta caratteristiche di attività del parlante tramite un Parallel Expert Encoder e un decodificatore ibrido Mamba–Transformer a miscela di esperti con circa 4 miliardi dei suoi 30 miliardi di parametri attivi per token. Non classifica i frame. Genera testo, ed è per questo che gli si può indicare come generarlo.

• Parametri — circa 30B in totale, all'incirca 4B attivi per token rispetto a 600M.

Decodifica — generazione autoregressiva vs trasduttore token-and-duration, non autoregressiva.

• Licenza — OpenMDW-1.1 vs CC-BY-4.0.

• Lingue — 40 trascritte, 31 tradotte da o verso l'inglese rispetto a 25 lingue europee con rilevamento automatico.

• Speaker — fino a 8, con attribuzione, in 13 lingue rispetto a nessuno.

• Timestamp — allineamento CTC post-decodifica, attribuzione al parlante vs temporizzazione nativa a livello di parola.

Throughput — RTFx 462 sulla Open ASR Leaderboard rispetto a RTFx 3.333.

• Durata e streaming audio — 1 ora per file, solo registrato vs registrato, con un modello gemello da 0.6B dedicato allo streaming che gestisce l'audio dal vivo separatamente.

I numeri dell'accuratezza cambiano a seconda di chi ospita.

Nella media inglese short-form della Open ASR Leaderboard di Hugging Face, Parakeet TDT 0.6B v3 si attesta al 6,34% e Nemotron 3.5 Transcribe al 5,33%. Si tratta di un divario di un punto sulla stessa leaderboard pubblica, un confronto più rispettabile della maggior parte di quelli di questa serie — lo stesso harness, gli stessi test set, le submission degli stessi due vendor. Non è però tutta la storia, perché le due voci sono state valutate in momenti diversi e la media della leaderboard è dominata da parlato letto e pulito.

Artificial Analysis racconta una storia molto diversa, e vale la pena capire perché. In quella classifica la voce Parakeet si colloca al 4,5%, ben al di sopra di quanto suggerirebbe la sua media Open ASR, mentre Nemotron 3.5 Transcribe si attesta al 3,4%. Il 4,5% appartiene alla configurazione di un endpoint ospitato, non al checkpoint sul proprio hardware, e le scelte di batching e decoding del deployer spostano il numero di quasi un punto. Confrontare un punteggio Parakeet ospitato con uno self-hosted è l'errore più comune in assoluto nella copertura di questa settimana, e vale anche in senso opposto: il dato di lancio del 2,8% di NVIDIA per Nemotron è una cifra di submission, e il 3,4% attuale della classifica è la misurazione.

Il quadro indipendente, revisionato da persone, è ancora più ristretto. Sul set inglese di Perit, Parakeet TDT 0.6B v3 si attesta al 2,13% di WER, al 14º posto su 22, con il 54% dei clip trascritti perfettamente. GPT Transcribe e MAI Transcribe 2 si attestano all'1,76%, al sesto e settimo posto. Il checkpoint 30B di Nemotron 3.5 Transcribe non è affatto presente in quella classifica; il modello nemotron-3.5-asr-streaming-0.6b che vi compare si attesta al 3,35%, al 21º posto — un modello diverso per un compito diverso, e spesso confuso con quello di cui tratta questo articolo.

Cosa elimina effettivamente la sostituzione

La cascata Parakeet che gli utenti utilizzano oggi è composta da tre parti e presenta tre modalità di errore. Il riconoscitore produce testo con le temporizzazioni delle parole. Il diarizzatore produce turni di parlante. La fase di fusione assegna i turni alle parole e lo fa mediante euristiche di sovrapposizione che risultano errate proprio nel punto cruciale: quando due persone parlano contemporaneamente. I dati riportati da NVIDIA stessa per la sostituzione con un unico modello sono mirati direttamente a quel punto debole: 18,26% di tasso di errore di diarizzazione su 21 lingue nel benchmark David AI, il migliore tra 14 sistemi; 32,4% di WER concatenato a permutazione minima su VoiceArena, il migliore tra 14, con il secondo classificato, una cascata Multitalker Parakeet + Nemotron 3 Diarization, al 34,2%; e 8,32% di parole di riferimento perse nel parlato inglese con sovrapposizioni, contro una mediana di circa il 31%.

Quelli sono dati del fornitore ottenuti con un banco di prova del fornitore e non sono stati riprodotti in modo indipendente. Ma notate qual è il secondo classificato: la cascata della stessa NVIDIA, costruita a partire dal modello nel titolo di questo confronto. L'azienda sta pubblicando un benchmark in cui il suo nuovo prodotto supera il suo vecchio prodotto più un diarizzatore. Si tratta di una prova insolitamente diretta, ed è anche il tipo di prova che un fornitore è nella posizione migliore per produrre e meno probabilmente pubblicherebbe se l'esito fosse stato l'opposto.

La seconda cosa che il rimpiazzo elimina è la gestione delle lingue. Parakeet copre 25 lingue europee; Nemotron ne copre 40 per la trascrizione e 31 per la traduzione da o verso l’inglese, con attribuzione del parlante in 13. Se la tua coda si ferma all’UE, quella differenza è solo accademica. Se include arabo, mandarino, hindi o giapponese, Parakeet non è mai stato un’opzione e il confronto è tra Nemotron e qualcos’altro del tutto.

Quanto ti costa sostituirlo

Innanzitutto, il throughput. I 3.333 RTFx di Parakeet rispetto ai 462 di Nemotron sono una differenza di 7,2× nello stesso ambiente di test della classifica — un divario più piccolo di quanto implichi il rapporto tra i parametri, perché il MoE attiva solo circa 4 miliardi dei suoi 30 miliardi di pesi per token, ma comunque reale. L'affermazione più altisonante di NVIDIA, fino a 2.238 secondi di audio al secondo su una RTX PRO 6000 Blackwell, presuppone il checkpoint NVFP4 più un modello draft DFlash2 ed è stata misurata su clip di 30 secondi ad alta concorrenza. Nessuno dei due numeri è sbagliato; misurano configurazioni diverse, e un piano di capacità basato su quello più grande ti deluderà sulle riunioni di un'ora.

Ingombro, seconda cosa. Il parakeet TDT 0.6B sta in un paio di gigabyte e gira comodamente su una GPU di fascia media, e le sue build quantizzate girano su CPU. Nemotron 3.5 Transcribe occupa decine di gigabyte in BF16 e richiede vLLM con il plugin NeMo Speech oppure SGLang-Omni su un acceleratore da datacenter. Non esiste alcuna versione di questo scenario in cui il modello 30B soppianti il modello 0.6B sullo stesso hardware.

Maturità, terzo. Parakeet ha un anno di deployment, mille risposte sui forum e una toolchain funzionante in NeMo, Transformers e un runtime C++. Nemotron 3.5 Transcribe ha un giorno. Il suo supporto per GGUF e NeMo-Speech.cpp è descritto come in arrivo; le sue build locali quantizzate non sono ancora state distribuite. Se la tua pipeline deve essere noiosa, questo è un motivo per aspettare un trimestre anziché un motivo per scartare il modello.

Dove il candidato in carica vince ancora nettamente

Innanzitutto, qualsiasi cosa interattiva. La decodifica transducer di Parakeet restituisce parole man mano che l'audio arriva, e i suoi timestamp nativi sono una proprietà del decoder anziché una fase di allineamento post-hoc. Nemotron 3.5 Transcribe è esplicitamente progettato per l'audio registrato — lo dice il post di NVIDIA su Hugging Face — ed esiste un modello streaming separato da 0,6B per le sessioni live. Se il tuo prodotto prevede didascalie in tempo reale, nessuno dei due modelli in questo titolo è la risposta giusta; lo è la variante streaming, e si tratta di un confronto diverso.

Qualunque soluzione on-premise su piccola scala, per due. Una clinica con una scheda da workstation, uno studio legale con un archivio e un responsabile della conformità, un gruppo di ricerca con un unico finanziamento per GPU: Parakeet a 0,6B è un deployment realistico e Nemotron a 30B no. La differenza di accuratezza di circa un punto su inglese pulito non giustifica il costo dell'hardware.

Qualsiasi cosa solo in inglese e senza requisito di parlante, per tre. Che rappresenta la maggior parte del lavoro di trascrizione. Il riassunto onesto è che la maggior parte dei 626.000 download di Parakeet riguarda lavori che l'aggiornamento non migliora.

Mantenere operativa la pipeline quando metà di essa è hardware tuo

L'hosting autonomo del riconoscitore introduce una modalità di guasto che le API gestite non hanno: la tua scheda, il tuo driver, la tua finestra di manutenzione. È proprio questo l'argomento a favore del mantenere l'altra metà della pipeline — il riassuntore, il classificatore, l'estrattore che trasforma una trascrizione in record strutturati — su un endpoint con ridondanza integrata. OrcaRouter esegue oltre 200 modelli testuali e multimodali dietro un'unica chiave, con failover automatico tra i provider quando un upstream si degrada, i prezzi di listino dei provider passati a ricarico 0%, e un DSL di routing che ti consente di indirizzare verbali di riunione e note di chiamata a modelli diversi senza duplicare le integrazioni. Nemotron 3.5 Transcribe e Parakeet TDT 0.6B sono entrambi fuori da quel catalogo — non forniamo speech-to-text — ma lo strato che legge il loro output non deve necessariamente guastarsi quando una GPU lo fa.

La decisione di aggiornamento

Sostituisci Parakeet con Nemotron 3.5 Transcribe se è la cascata a penalizzarti: se stai mantenendo un diarizzatore e una fase di fusione, se le tue riunioni hanno più di due voci, se il tuo audio non è europeo, o se le parole «parlato sovrapposto» compaiono nei tuoi ticket di supporto. In quel caso il checkpoint 30B non è un lusso, è l'eliminazione di due parti mobili e del loro budget di errore, e il costo in throughput è un costo in throughput — una scheda elabora comunque molto più audio di quanto possa generarne un team con molte riunioni.

Mantieni Parakeet se il tuo audio è inglese o europeo, i tuoi parlanti sono noti o irrilevanti, il tuo hardware è una workstation e la tua pipeline funziona. Il nuovo modello non rende obsoleto quello vecchio; copre i casi per cui quello vecchio non è mai stato progettato. E continua a tenere d'occhio le classifiche indipendenti, perché ogni numero in questo articolo che favorisce Nemotron 3.5 Transcribe sulla diarizzazione è di NVIDIA stessa, e una seconda opinione non è ancora stata pubblicata.