NVIDIA NemotronLabs VoiceChat 11B-1
Engineering & Research

NVIDIA NemotronLabs VoiceChat 11B: Il modello vocale full-duplex che NVIDIA ha rilasciato senza annunciarlo

Autore

Rowan Sterling

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Due schede del modello si trovano nello stesso repository Hugging Face e non concordano tra loro. Quella che viene visualizzata sulla pagina chiama il modello NVIDIA NemotronLabs VoiceChat 11B, indica come data di rilascio il 3 agosto 2026 e riporta 11B di parametri. La seconda, un file chiamato overview.md che nessuno vede a meno di aprire la scheda Files, chiama lo stesso modello 12B, data il rilascio al 16 luglio, include una sezione di benchmark che la scheda pubblica omette, e ha ancora la parola TODO al posto di una descrizione dei risultati. Nessuna delle due schede era accompagnata da un post di lancio, una nota stampa, un report tecnico o un tweet di NVIDIA.

Quello che c'è dentro, però, non è un segnaposto. È un checkpoint da 44 GB che ascolta e parla allo stesso tempo: uno stack unico che riceve l'audio dal microfono e produce in uscita il parlato sintetizzato, senza il consueto percorso che va dal riconoscimento vocale al modello linguistico e infine alla sintesi vocale. È basato su Nemotron Nano 9B v2 come backbone, può chiamare strumenti a metà frase mentre continua a parlare, e NVIDIA sostiene che sia il primo modello open full-duplex in grado di farlo.

Tutto ciò che segue è letto direttamente da quel repository — le due schede, config.json, e l'indice dei tensori all'interno del file dei pesi, che abbiamo analizzato noi stessi per risolvere la questione 11B contro 12B. Ogni numero di prestazioni che NVIDIA pubblica per questo modello è di NVIDIA stessa, misurato da NVIDIA, e non riprodotto. Esiste esattamente una misurazione indipendente di questa discendenza pubblicamente, da Artificial Analysis, ed è archiviata sotto un nome diverso e un diverso conteggio di parametri — che si rivela essere la cosa più interessante del rilascio.

Cosa c'è effettivamente nel repository

Il repository è stato creato il 29 luglio 2026 e modificato l'ultima volta il 4 agosto. Contiene diciassette file: le due schede modello in competizione, una licenza, un config.json, un model.safetensors da 44,4 GB, un diagramma dell'architettura, una directory del tokenizer RNN-T, quattro brevi note di policy su bias, sicurezza, privacy e spiegabilità, e tre file .wav — una demo di turn-taking, una demo di barge-in e una demo di tool-calling — incorporati come riproduttori audio in cima alla scheda, così puoi ascoltare il modello prima di leggerne la descrizione.

Diverse cose mancano, e contano più della lista dei file.

Non esiste un paper per questo modello. La scheda ne cita cinque: VoiceBench, Full-Duplex-Bench 1.0, Full-Duplex-Bench v3, SALM-Duplex, Audio Flamingo 3, oltre al preprint PersonaPlex di NVIDIA. Nessuno di questi è un rapporto tecnico di NemotronLabs VoiceChat. L'architettura è descritta in circa tre paragrafi e un diagramma, e questa è l'intera descrizione pubblica di come è stato costruito.

Non c'è modo di chiamarlo. La pagina di Hugging Face afferma chiaramente che il modello "non è distribuito da alcun Inference Provider." Non esiste un endpoint ospitato, né di NVIDIA né di chiunque altro. L'unico thread aperto della community sul repository è un utente che chiede a NVIDIA di aggiungere un handler.py affinché il checkpoint possa essere distribuito su Hugging Face Inference Endpoints — qualcuno che ha provato a eseguirlo nel modo semplice e ha scoperto che non esiste.

Non c’è pipeline_tag né library_name. Per questo la pagina non ha widget di inferenza né etichetta di task, ed è un sintomo del problema più profondo: config.json non è una config di Transformers. È una NeMo da 32 KB training config, completa di un blocco AdamW, un programma di learning rate, bucket bins del dataloader e una split di validazione. Non puoi puntare AutoModel.from_pretrained a questo. Si clona un ramo specifico del repository Speech di NVIDIA — nemotron-labs-voicechat — si crea un ambiente conda ancorato a Python 3.12, PyTorch 2.10 e Transformers 4.56, si compila causal-conv1d e mamba-ssm senza build isolation, e si esegue il loro script.

Il contatore dei download riflette tutto questo. 107 like contro 80 download nel primo mese del modello è la firma di una release che le persone hanno messo nei segnalibri e non hanno eseguito.

NVIDIA NemotronLabs VoiceChat 11B-2

Abbiamo contato i parametri, e 11B vince.

Un file safetensors contiene un'intestazione JSON che elenca ogni tensore, la sua forma e il suo dtype, quindi il conteggio dei parametri non è una questione di opinioni. Abbiamo estratto l'intestazione e fatto la somma: 11.095 milioni di parametri su 1.626 tensori float32, che occupano 44,38 GB. Quindi la scheda visualizzata è corretta e overview.md è obsoleto — questo è un modello da 11B, e il valore 12B è un residuo.

L'albero dei modelli di Hugging Face spiega dove un 12B potrebbe essersi insinuato. La discendenza che traccia parte da Nemotron Nano 12B v2 Base, poi Nemotron Nano 12B v2, quindi Nemotron Nano 9B v2, e solo successivamente questo modello. La famiglia del backbone testuale di NVIDIA contiene sia un 12B sia un 9B, dove il 9B è il discendente potato del 12B, e VoiceChat è costruito sul 9B. Una scheda redatta più indietro in quella catena avrebbe naturalmente riportato il numero maggiore.

Anche l'intestazione si divide nettamente lungo le due metà dell'architettura:

Lato comprensione — 10.098B. Di cui, 7.714B sono lo stack transformer Nemotron Nano v2, 0.609B sono l'encoder vocale, e tre matrici separate 131,072 × 4,480 occupano 0.587B ciascuna.

Lato parlante — 0.997B. Un backbone text-to-speech a 28 strati e larghezza 1152, con 0.595B di parametri, una testa di output mixture-of-Gaussians da 0.159B e un codec audio neurale con encoder e decoder da 0.092B ciascuno.

Due conseguenze pratiche derivano dal dtype. La prima è che il download da 44 GB non è un modello grande, è un modello normale distribuito in float32; convertitelo in bfloat16 e i pesi saranno circa 22 GB. La seconda è che il limite minimo dichiarato da NVIDIA di una GPU da 80 GB è una conseguenza di quella scelta piuttosto che delle dimensioni del modello, e chiunque abbia una scheda da 48 GB e sia disposto a convertire il checkpoint da sé non è chiaramente escluso — anche se nessuno ha pubblicato un'esecuzione confermata con quell'ingombro, quindi consideratelo come aritmetica, non una promessa.

Come ascolta e parla allo stesso tempo

"Full duplex" è il punto centrale della release, e la config mostra come viene acquistato. Tre scelte di design fanno il lavoro.

L'encoder vocale non può guardare avanti. È un Conformer a 24 strati e 8 teste il cui contesto di attenzione è impostato a [70, 0] — settanta frame di contesto sinistro e zero frame di contesto destro. Un riconoscitore convenzionale guarda l'audio dopo il momento corrente per disambiguare ciò che ha appena sentito; a questo è vietato farlo, il che costa precisione e offre la capacità di emettere una decisione nell'istante in cui arriva un frame.

Tutto è quantizzato ad 80 ms. La lunghezza del frame nella configurazione è di 0,08 secondi, in linea con la dimensione del chunk di 80 ms che NVIDIA ha descritto altrove per questo filone di lavoro. Il modello decide, ogni 80 ms, se continuare ad ascoltare o iniziare a parlare. Questa cadenza è ciò che rende l'interruzione immediata anziché cortese.

Le tool call escono dalla sua stessa bocca. Ricordate quelle tre matrici dalla forma identica, con vocabolario a 131.072 token. Una è l'embedding di input, una è la normale testa del modello linguistico — e la terza si chiama function_head. Il «canale di output separato per gli script di tool-calling» nella prosa della scheda è una vera e propria terza proiezione di output, larga 587 milioni di parametri, che corre in parallelo con la generazione del parlato. Questa è la ragione architetturale per cui il modello può emettere una tool call senza interrompere la conversazione, ed è un vero impegno progettuale piuttosto che una convenzione di prompt.

A valle, il decoder text-to-speech predice codici per un codec a quantizzazione vettoriale residua con 31 quantizzatori e tassi di downsampling di 7, 7 e 9 — una riduzione di 441× che porta il tasso di token audio a 50 frame al secondo, in uscita a 22,05 kHz. L'input è a 16 kHz. Nel checkpoint sono presenti anche un decoder RNN-T e una rete congiunta, motivo per cui gli output dichiarati del modello includono una trascrizione dell'utente insieme al proprio testo e audio: la trascrizione è una vera testa di riconoscimento, non un sottoprodotto. La voce predefinita si chiama Aria e una clip di riferimento di tre secondi condiziona il parlante.

Un ulteriore dettaglio della configurazione merita di essere evidenziato perché conferma una limitazione dichiarata: il data loader di addestramento limita gli enunciati a 142,39 secondi. L'avvertimento nella scheda secondo cui il modello non supporta più di due minuti di contesto audio è visibile nella pipeline di dati che lo ha prodotto.

I punteggi, e chi li ha effettivamente misurati

Le affermazioni principali di NVIDIA riguardano latenza e ranking. Su Full-Duplex-Bench 1.0 riporta 448 ms per prendere un turno in modo fluido e 480 ms per cedere quando viene interrotto, con un tasso di subentro di 0,82 nel turn-taking fluido e 1,0 sull'interruzione da parte dell'utente, e un punteggio del giudice GPT-4o di 4,33 sulla gestione delle interruzioni. Afferma di essere il #2 tra i modelli full-duplex open su VoiceBench e il #2 tra i modelli open su Full-Duplex-Bench. Tutti questi sono test eseguiti da NVIDIA.

Allineali al mondo esterno e si aprono due falle.

Sul ragionamento vocale, il punteggio del vendor è superiore di circa otto punti.Il non renderizzato overview.md riporta il 37.0% su Big Bench Audio. Artificial Analysis ha misurato in modo indipendente questa linea al 29.2%. Stesso benchmark, stessa famiglia, un divario abbastanza ampio da cambiare la posizione del modello in classifica.

Su VoiceBench, il punteggio indicato dal fornitore è troppo prudente. La scheda tecnica dichiara la posizione #2 tra i modelli open full-duplex; la classifica pubblica di VoiceBench posiziona questo modello a 58.10, che è il vertice della categoria open full-duplex, davanti a Freeze-Omni con 55.20 e Moshi con 29.51. La bozza della scheda di NVIDIA riporta 55.1 per sé — inferiore al numero che la classifica elenca attualmente.

C'è anche una stranezza minore: la tabella comparativa della stessa NVIDIA valuta i rivali in modo più generoso rispetto ad Artificial Analysis. La scheda provvisoria attribuisce a Freeze-Omni il 33,4% e a PersonaPlex 7B il 19,1% su Big Bench Audio; Artificial Analysis misura il 33,9% e il 12,6%. L'ordine tra pari resta invariato in entrambi i casi, il che è rassicurante, ma ricorda che un benchmark del fornitore e uno indipendente non restituiscono gli stessi numeri nemmeno per terze parti.

NVIDIA NemotronLabs VoiceChat 11B-3

Il grafico rende inevitabile il titolo onesto. Tra i modelli open full-duplex questo è un vero passo avanti: più che raddoppia PersonaPlex nel ragionamento parlato e lascia Moshi in una categoria completamente diversa. Misurato con ciò che si può comprare, non è nemmeno vicino: Step-Audio R1.1 al 96%, Grok 4.5's Voice Agent e Gemini 2.5 Flash (Thinking) al 92%, Nova 2.0 Sonic al 87%. Si tratta di un divario di circa tre a uno nel ragionamento da input parlato.

Il modo più chiaro per vedere quanto costa attualmente il full duplex è all'interno del catalogo di NVIDIA stesso. Su VoiceBench, NVIDIA Nemotron 3 Nano Omni 30B A3B — un modello più grande che non è full duplex — ottiene 89,39, contro 58,10 per VoiceChat. Circa trenta punti di qualità dell'assistente sono il prezzo della gestione delle interruzioni e del cambio di turno sotto i 500 ms, almeno in questa generazione. Se il tuo prodotto non ha bisogno di un modello che possa essere interrotto a metà parola, stai pagando molto per una funzionalità che non utilizzerai.

Il tool calling è il punto di forza, e anche la parte più debole.

"Primo modello full-duplex open source a supportare il tool calling" è l'affermazione su cui si basa il rilascio, e i numeri che la sostengono sono irregolari. Nella variante parlata di BFCL-v3, NVIDIA riporta una media del 56,1%: 58,5% semplice, 62,5% multiplo, 42,5% parallelo, 27,5% parallelo-multiplo e 89,6% sul corretto rifiuto di chiamate irrilevanti. Su Full-Duplex-Bench v3 la divisione è ancora più netta.

Selezione dello strumento — 82,5%. Scegliere la funzione giusta dall'elenco, che NVIDIA descrive giustamente come competitiva con i modelli di frontiera.

Accuratezza degli argomenti — 44.2%. Compilando correttamente i parametri di quella funzione in base a ciò che ha detto l'utente.

Pass@1 — 33%. Riuscire a completare l'intera chiamata al primo tentativo.

Un modello che sa quale strumento vuole con un'affidabilità superiore di due terzi rispetto a quella con cui compila i parametri dello strumento è un modello che cercherà con sicurezza il meteo della città sbagliata. In un agente testuale lo si intercetterebbe con un livello di validazione e un nuovo tentativo; in una chiamata vocale dal vivo, il nuovo tentativo è udibile, e la scheda indica che il modello non deve ritentare affatto una chiamata fallita — è istruito a dire all'utente che l'API ha un problema.

I vincoli operativi attorno a {{1}}esso{{/1}} sono rigidi, e NVIDIA li elenca senza troppi giri di parole: un massimo di cinque strumenti per sessione prima che la qualità si degradi, nessuna chiamata simultanea affidabile a più strumenti, nessun modo per l'utente di interrompere mentre uno strumento è in esecuzione, e una tendenza nelle conversazioni miste a rispondere in base alla propria conoscenza invece di chiamare lo strumento che avrebbe dovuto. Le risposte lunghe degli strumenti bloccano l'agente, ed è ciò che la funzione "{{2}}messaggio di attesa{{/2}}" esiste per mascherare: si scrive in anticipo una frase che l'agente pronuncia nell'istante in cui una chiamata parte, così il silenzio ha qualcosa dentro.

Una particolarità che farà perdere un pomeriggio a qualcuno: i prompt di sistema e le risposte degli strumenti devono essere solo ASCII. Niente trattini em, niente virgolette curve, niente simboli di grado, niente emoji. L'output degli strumenti deve essere appiattito in frasi ASCII semplici e adatte al parlato prima di raggiungere il modello, il che significa che una risposta API JSON non può essere passata grezza.

Quanto costa eseguirlo, e la licenza che ti impedisce di farlo.

Inizia con l'hardware. La documentazione del ramo NVIDIA richiede una GPU con almeno 80 GB di memoria, il che punta a una H100 o H200, e la configurazione testata è una H100 con vLLM. La capacità H100 on-demand costa all'incirca 2–3 dollari all'ora sui principali cloud GPU, quindi un'istanza in esecuzione continua costa circa 1.500–2.200 dollari al mese prima di aver scritto qualsiasi codice applicativo, assunto qualcuno per mantenerla attiva o servito una seconda conversazione concorrente.

Ora il confronto. Artificial Analysis normalizza i prezzi dello speech-to-speech ospitato in costo per ora di audio in ingresso, e la gamma attuale va da circa 1,42 $/ora all'estremità economica a 10,75 $/ora per il livello premium più costoso, con un'opzione di fascia media ben considerata come Grok Voice Think Fast 2.0 che si attesta a 4,80 $/ora — ovvero 0,08 $ al minuto di audio.

NVIDIA NemotronLabs VoiceChat 11B-4

Leggete quei due paragrafi insieme e la tesi del self-hosting è più debole di quanto sembri. Un H100 dedicato è più economico di un endpoint hosted di fascia media solo se lo si tiene davvero occupato, ed è più costoso della fascia economica del mercato hosted quasi indipendentemente dall'utilizzo — mentre ci si fa carico anche dell'ingegneria, della reperibilità e di un modello che totalizza il 29,2% dove le opzioni hosted ottengono l'87–96%.

E poi c'è il muro. La licenza è la OpenMDW License Agreement v1.1, e la scheda dichiara nella propria citazione a blocco che il modello "è pronto solo per scopi di ricerca." Il codice sul ramo GitHub è Apache-2.0; i pesi no. Puoi scaricarlo, studiarlo, metterlo a punto, sottoporlo a benchmark e scriverne. Non puoi metterlo davanti ai clienti. Ogni argomento economico sopra citato è quindi accademico per un'azienda che cerca di lanciare un prodotto vocale — la questione non è mai stata se i calcoli delle GPU funzionassero.

Che è anche il motivo per cui diremo l'ovvio senza mezzi termini: NemotronLabs VoiceChat 11B non è invocabile tramite OrcaRouter, perché non è invocabile tramite nulla. Ciò che una chiave vi garantisce davvero è il punto di riferimento rispetto al quale dovrebbe essere misurato: i modelli vocali e audio ospitati si trovano dietro una singola API con un ricarico dello 0%, il che significa che applichiamo direttamente il prezzo di listino del fornitore, quindi quando un fornitore riduce la tariffa audio, il numero più basso è quello che pagate quel giorno, invece che dopo un ciclo contrattuale. Se state calcolando il prezzo di un agente vocale, quella cifra al minuto è il numero che una GPU da 80 GB deve battere, ed è importante saperlo con precisione prima di impegnarvi con un rack.

Il problema dei nomi: 11B, 12B, NemotronLabs, Nemotron 3

È qui che gran parte della copertura iniziale ha sbagliato, quindi vale la pena essere prudenti su ciò che è accertato e ciò che non lo è.

Quattro dei canali ufficiali di NVIDIA descrivono questo lavoro con tre etichette diverse. Hugging Face pubblica "NVIDIA NemotronLabs VoiceChat 11B" con pesi aperti e una licenza solo per ricerca. Il blog per sviluppatori di NVIDIA, a marzo 2026, ha descritto "Nemotron 3 VoiceChat" come un modello full-duplex da 12 miliardi di parametri in accesso anticipato, mirando ameno di 300 ms di latenza end-to-end su chunk da 80 ms, con un programma di accesso anticipato che offre container di riferimento, risultati di benchmark e un percorso di fine-tuning, e promette "pesi aperti e ispezionabili per la distribuzione aziendale". La classifica pubblica VoiceBench e Artificial Analysis registrano entrambe le loro voci come "Nemotron 3 VoiceChat (V1)", 12B.

Ciò che è possibile sapere: le descrizioni dell'architettura corrispondono componente per componente — encoder Fast Conformer, backbone Nemotron Nano v2 9B, decoder text-to-speech NVIDIA, canale separato per il tool-calling, frame da 80 ms, uno stack unificato. La scheda non renderizzata nel repository Hugging Face usa la cifra di 12B che usano le altre interfacce. È la stessa linea di lavoro, e le voci di terze parti stanno quasi certamente misurando questa famiglia.

Ciò che non è confermato: che il checkpoint che puoi scaricare oggi sia bit per bit ciò che Artificial Analysis e VoiceBench hanno valutato, o ciò che il programma di accesso anticipato distribuisce. Due dettagli sconsigliano di darlo per scontato. Il numero di parametri differisce: 11,095B misurati contro 12B dichiarati. E gli obiettivi di latenza differiscono nettamente — la proposta enterprise del blog è sotto i 300 ms end-to-end, mentre la scheda pubblicata misura 448 ms e 480 ms su Full-Duplex-Bench. Potrebbero essere diversi punti di misurazione sullo stesso modello, o modelli diversi. NVIDIA non lo ha detto, perché NVIDIA non ha detto assolutamente nulla su questo rilascio.

La conclusione pratica: se citi un numero per questo modello, indica da quale superficie proviene. La copertura che attribuisce il 29,2% di Artificial Analysis alla scheda del modello di Hugging Face, o il 37,0% di NVIDIA a un test indipendente, ha mescolato due cose che NVIDIA stessa tiene in documenti separati con diversi conteggi di parametri.

Dove si rompe

La sezione sulle limitazioni della scheda in bozza è insolitamente schietta, e il ramo GitHub aggiunge altro. Raccolto:

Solo inglese, e nessuna roadmap multilingue nel repo.

Memoria di due minuti.La conversazione oltre una finestra audio di due minuti potrebbe non essere conservata — un tetto rigido per le chiamate di supporto o per qualsiasi cosa debba ricordare ciò che è stato concordato quattro minuti fa.

Più stupido del suo stesso backbone. NVIDIA afferma che potrebbe essere inferiore a Nemotron Nano 9B v2 in conoscenza, capacità di seguire le istruzioni e sicurezza, dato che è stato ottimizzato per la naturalezza conversazionale. Non è stato addestrato esplicitamente per il ragionamento o l'allineamento; il ragionamento multi-step e l'aritmetica sono indicati come punti deboli.

Nessun backchanneling affidabile. Il "mm-hm" che segnala che un essere umano sta ancora ascoltando non viene gestito sistematicamente.

Ti interromperà a metà frase.Le note del branch elencano l'interruzione dell'utente durante una pausa a metà frase e la "continuazione incontrollata / auto-dialogo" tra le modalità di guasto note — il costo diretto di un encoder con zero contesto a destra.

Solo stanze silenziose. Esplicitamente inadatto ad ambienti rumorosi o riverberanti, soprattutto dove è presente parlato in sottofondo. Questo esclude la maggior parte delle sale operative dei call center e la maggior parte delle auto.

Chi dovrebbe effettivamente scaricare questo

I ricercatori che lavorano sulla modellazione del parlato duplex ottengono qui il massimo, e dovrebbero passare: un checkpoint aperto da 11B con un canale tool-calling funzionante, addestrato su circa 550.000 ore di audio misto, reale e sintetico, è un punto di partenza di gran lunga migliore che reimplementare l'articolo SALM-Duplex. La licenza di ricerca non costituisce un vincolo per quel lavoro.

{{1}}I team che creano agenti vocali dovrebbero leggere la scheda e saltare il download. Nulla di ciò che impari da un checkpoint float32 da 44 GB che non puoi distribuire cambierà la tua architettura, e la lezione onesta dei benchmark è che il full duplex end-to-end non è ancora competitivo con un buon modello ospitato sull'aspetto che gli utenti notano di più, cioè se l'assistente li ha capiti. Nel frattempo, la scelta sensata è sviluppare su un endpoint ospitato e mantenere economico il passaggio — una chiave su oltre 200 modelli con failover automatico significa che un incidente del provider non ti fa cadere la linea durante una chiamata, {{2}}e significa che passare in futuro a un modello full-duplex aperto è un cambio di configurazione, non una riscrittura.{{/2}}{{/1}}

Le aziende a cui interessa specificamente questo aspetto dovrebbero fare domanda per l'accesso anticipato a Nemotron 3 VoiceChat piuttosto che basarsi sui pesi di Hugging Face. È in quel programma che risiedono la licenza distribuibile, i container di riferimento e il traguardo dei sub-300 ms. Il checkpoint pubblico è un'anteprima di ricerca della stessa idea, pubblicata senza la documentazione che ti consentirebbe di usarla.

Tre domande che questo repo continuerà a ricevere

Posso usarlo commercialmente se lo affino pesantemente? No. OpenMDW v1.1 e la dichiarazione "solo per scopi di ricerca" della scheda regolano i pesi e qualsiasi cosa ne derivi; la licenza Apache-2.0 sul ramo GitHub copre il codice di inferenza, non il checkpoint. Il fine-tuning non ripulisce una licenza. Se ciò di cui hai bisogno sono i diritti commerciali, il programma di accesso anticipato è la strada che NVIDIA ha effettivamente predisposto per questo.

È questo lo stesso modello di quello presente nelle classifiche?Stessa famiglia, quasi certamente; artefatto identico, non confermato. Le voci della classifica e di Artificial Analysis sono registrate come "Nemotron 3 VoiceChat (V1)" a 12B, il checkpoint scaricabile misura 11.095B, e NVIDIA non ha pubblicato nulla che le riconcili. Usa i numeri della classifica come la migliore lettura indipendente disponibile sulla discendenza, non come una misurazione verificata del file su Hugging Face.

Funzionerà su qualcosa di più piccolo di una scheda da 80 GB? Probabilmente, con un po' di lavoro, e nessuno ha pubblicato prove. I pesi sono float32, quindi una conversione in bfloat16 dovrebbe ridurre i circa 44 GB di parametri a circa 22 GB, il che lascia un margine reale su una scheda da 48 GB prima di tenere conto della cache KV, del codec e dei buffer di streaming. Ma il percorso supportato è vLLM su una H100 da 80 GB, il container di deployment è costruito per questo, e l'unica configurazione testata riportata da NVIDIA è quella. Metti in conto il tempo, non solo la VRAM.

Cosa guardare

Sono tre le cose che cambierebbero la lettura di questo rilascio. Un report tecnico, o anche una scheda che smetta di contraddirsi, ci direbbe se il checkpoint 11B è l'artefatto che le classifiche hanno misurato. Una riproduzione indipendente della latenza — qualcuno fuori da NVIDIA che confermi i 448 ms di turn-taking sul proprio hardware — trasformerebbe l'affermazione più attraente del rilascio da marketing a fatto. E una licenza commerciale, o un endpoint ospitato da chiunque, lo sposterebbe da curiosità da paper a opzione concreta per i molti team che scambierebbero volentieri un po' di qualità del ragionamento per un agente vocale che può essere interrotto.

Fino a quando uno di quelli non arriva, la descrizione accurata è limitata ma davvero notevole: NVIDIA ha pubblicato il checkpoint vocale full-duplex open più forte mai misurato, gli ha dato il primo canale di tool-calling funzionante in quella categoria, lo ha concesso in licenza in modo che nessuno possa distribuirlo, e ha rifiutato di menzionare che tutto questo è accaduto.

Confrontati in questo articolo1

Rilevato da questo articolo · Benchmark: Artificial Analysis · aggiornato ogni giorno

© 2026 OrcaRouter

Per i provider

Gestisci una piattaforma di inferenza? Porta i tuoi modelli su OrcaRouter.

providers@orcarouter.ai

Unisciti alla community

Discordsupport@orcarouter.aiXGitHubYouTube