Ming-3.0-audio-tiny vs VibeVoice-ASR-Streaming 1.5B: Cinque trattini contro un flusso con attribuzione del parlante

Apri l'immagine di riconoscimento all'interno del repository Hugging Face di Ming-3.0-audio-tiny e scorri fino in fondo. Cinque righe — diarizzazione dei parlanti ed errore di permutazione minima concatenato per AISHELL-4, AliMeeting e AMI — riportano un trattino nella colonna tiny. Non è un brutto numero. È un vuoto. Il fornitore ha misurato il suo modello fratello più grande su tutte e cinque e ha rifiutato di misurare quello piccolo. Ora apri la model card di VibeVoice-ASR-Streaming 1.5B e leggi il primo punto elenco: trascrive chi ha detto cosa, in modo continuo, man mano che il parlato arriva. Sono le stesse cinque righe, invertite. Un modello pubblica quasi tutto tranne l'attribuzione dei parlanti; l'altro esiste principalmente per pubblicarla. I fallimenti documentati dell'IA e gli incidenti degli agenti dietro rilasci come questo sono raccolti in l'OrcaRouter AI Incident Archive dove ogni voce riporta le proprie fonti, gravità, grado di confidenza e flag di contestazione.

Nessuno dei due è stato valutato in modo indipendente. Qui questo conta meno del solito, perché questa sfida è decisa da una scelta di progettazione più che da un numero: cosa succede quando l'audio non smette mai di arrivare. Ming-3.0-audio-tiny è un modello basato su file con una finestra ampia e un output vocale opzionale. VibeVoice-ASR-Streaming 1.5B è un modello in streaming che emette testo all'incirca ogni tre secondi ed etichetta ogni segmento con un parlante. Se il tuo carico di lavoro è una registrazione, si sfidano. Se il tuo carico di lavoro è una stanza, solo uno dei due ci sta provando.

Quanto costa lo "streaming" nella configurazione

Il repository di Microsoft è insolitamente trasparente riguardo al proprio budget di latenza, il che rende il compromesso verificabile anziché una mera operazione di marketing. I tokenizzatori acustici e semantici sono causali e operano a una compressione di 3.200× su un input a 24 kHz, quindi il flusso di token corrisponde a circa 7,5 token al secondo di audio. Il wrapper di streaming raggruppa 22 frame di token per chunk con 4 frame di lookahead: 22 diviso 7,5 dà circa 2,9 secondi per emissione, e 4 diviso 7,5 corrisponde a circa mezzo secondo di audio futuro che il modello può vedere prima di impegnarsi.

• Cadenza di emissione — circa 2,9 secondi; il lookahead è l'elemento che acquista precisione al costo della latenza.

• Backbone — un decoder della famiglia Qwen2, 28 layer, 1.536 dimensioni nascoste, 12 teste con 2 teste key-value, finestra di 64.000 token.

• Dimensioni: tre shard safetensors per un totale di 5,63 GB. Non si tratta di 1,5 miliardi di parametri; 5,63 GB in bf16 corrispondono più o meno a 2,8 miliardi, e il "1,5B" nel nome va inteso piuttosto come la spina dorsale linguistica che non l'intero stack.

• Lingue — dieci: cinese, inglese, francese, tedesco, italiano, giapponese, coreano, portoghese, russo, spagnolo.

• Extra — hotword personalizzate passate come contesto e un'etichetta di parlante associata a ogni segmento emesso.

• Datazione — repository creato il 2 settembre 2026 alle 15:51 UTC, ultima modifica la mattina seguente. Annunciato soltanto da una riga di notizie nel README di VibeVoice su GitHub, vale a dire praticamente non annunciato affatto.

Quella finestra da 64K è il numero da contrapporre ai 131.072 di Ming. Sembra metà della capacità, ma non è lo stesso tipo di capacità. Un modello in streaming non ha bisogno di conservare un'ora, perché ha già annotato gli ultimi cinquantanove minuti. La finestra è memoria di lavoro per il chunk corrente più qualunque contesto di dialogo il modello porti avanti. I 131K di Ming sono la scommessa opposta: tenere tutto attivo e ragionarci sopra.

La scommessa di Ming, e cosa ne ricava

Il punto di forza del modello minuscolo non è la precisione di riconoscimento — nelle tabelle di inclusionAI è 0,34 punti dietro al suo fratello maggiore sul cinese (3,79 contro 3,45 di errore sui caratteri) e 0,89 dietro sui dialetti (10,29 contro 9,40). Il punto di forza è che un solo checkpoint svolge riconoscimento, comprensione, ragionamento e parlato nello stesso forward pass, su una finestra abbastanza lunga che «cosa ha detto nei primi dieci minuti» è una domanda che si può fare.

I suoi valori di intelligenza audio sono rispettabili per le dimensioni e sono il motivo per preferirlo a un puro trascrittore: MMAU 75,90, MMAR 67,70, MMSU 73,06, BigBenchAudio 99,20, MuchoMusic 58,07 per la musica. Sono tutti eseguiti dal fornitore, con asterischi sulle righe autovalutate, e la scheda dichiara che i modelli di confronto sono stati riprodotti con i prompt e il decoding propri di inclusionAI. Leggili come un brief di progettazione.

Quello che le tabelle non ti diranno è chi ha parlato. È questo il vuoto che i cinque trattini segnalano, ed è strutturale, non accidentale. Un modello che risponde a domande su una registrazione non ha bisogno della segmentazione per singolo interlocutore per rispondere; un modello che produce una trascrizione per una riunione sì. Ming può probabilmente essere indotto, tramite prompt, a fare qualcosa come l'etichettatura degli interlocutori, e l'evidenziazione sulla scheda delle "registrazioni multi-interlocutore" suggerisce che è stato addestrato vicino al problema. Ma "probabilmente" sta facendo il lavoro di cinque righe non pubblicate.

Due pipeline, rappresentate onestamente

Immagina che la stessa registrazione di novanta minuti passi attraverso ciascuno.

Con VibeVoice-ASR-Streaming 1.5B, l'audio arriva in blocchi di circa tre secondi e il testo esce con lo stesso ritmo, con ogni segmento che riporta un parlante. Puoi visualizzarlo in tempo reale. Il costo è che ogni decisione è in un certo senso locale: il modello ha visto mezzo secondo in avanti e qualunque contesto riesca a mantenere, quindi un parlante che si ferma per quattro secondi può tornare etichettato in modo diverso, e un nome introdotto al minuto due è recuperabile solo tramite il meccanismo hotwords, che fornisci tu. La coerenza tra blocchi è ciò che va testato e ciò che la scheda non quantifica.

Con Ming-3.0-audio-tiny, il file arriva, l'intero contenuto è nel contesto e la risposta arriva quando arriva. La coerenza tra chunk non è un rischio perché non ci sono chunk — fino alla finestra. Il costo è che non c'è nulla disponibile finché il modello non ha finito, e la prenotazione di memoria è dimensionata per l'intera finestra: il profilo ASR di riferimento occupa 0,92 di una scheda con un batch di 32.768 token. Puoi ridurre max_model_len; non puoi farlo in streaming, perché nel repository non esiste un percorso di streaming.

• Andamento della latenza — VibeVoice: continuo, ~3 s di ritardo. Ming: una sola risposta alla fine.

• Attribuzione — VibeVoice: per segmento, per concezione. Ming: non pubblicato.

• Contesto — VibeVoice: finestra di lavoro da 64K più la sua trascrizione. Ming: 131.072 posizioni, all'incirca tre ore di audio facendo il calcolo sull'encoder, se il processore alimenta un unico flusso continuo.

Output — VibeVoice: testo. Ming: testo, oppure testo più voce sintetizzata tramite un Talker opzionale su una seconda GPU.

• Hardware — VibeVoice: un checkpoint da 5,63 GB, quindi una singola scheda di fascia comune. Ming: 17,74 GB di Thinker, una scheda per il testo, due per il parlato.

La licenza e le pratiche burocratiche sono le stesse, e questo è insolito

Entrambi sono MIT. Entrambi sono rilasci silenziosi. Entrambi hanno pubblicato i pesi prima che la documentazione si aggiornasse, ed entrambi si appoggiano a un repository GitHub che non porta il nome del checkpoint: i profili di deployment di Ming si trovano in inclusionAI/Ming-3.0-audio-flash, e le istruzioni d'uso di VibeVoice si trovano in microsoft/VibeVoice insieme al fratello 7B.

Le differenze stanno in ciò che ciascun repository ti comunica. Microsoft fornisce un report tecnico — arXiv 2609.02812 — e una figura dei risultati nella scheda, che è un'immagine anziché una tabella, quindi i numeri non sono estraibili e nel testo non è indicato alcun tasso di errore per lingua. inclusionAI fornisce tre immagini di benchmark, anch'esse immagini, più una scheda che nomina le proprie debolezze solo implicitamente, lasciando vuote delle celle. Nessuno dei due fornitori ti dà un numero che puoi incollare in un foglio di calcolo senza trascriverlo a mano.

Un'asimmetria merita di essere segnalata a chiunque si occupi di approvvigionamenti: il repository Hugging Face di Ming non contiene alcun LICENSE file, solo un link nei metadati della card a una licenza presente nell'altro repository. La card di VibeVoice indica MIT nei metadati e il repository contiene il file di licenza. Entrambe le affermazioni sono vere; solo una è all'interno dell'artefatto.

A cosa serve un router e a cosa non serve qui

OrcaRouter non serve nessuno dei due modelli. Ming-3.0-audio-tiny è un checkpoint e VibeVoice-ASR-Streaming 1.5B è un checkpoint; nessuno dei due è nel nostro catalogo, e nulla in questo articolo costituisce un'offerta per ospitarli. Il ruolo del router in una pipeline come questa è a valle della trascrizione e a monte della decisione: riassumere la chiamata, estrarre gli impegni, classificare se il segmento richiede un intervento umano, tradurre le parti che non erano nella lingua di lavoro. Quelle chiamate sono in formato testo, e un unico endpoint per oltre 200 modelli a markup 0% — prezzo di listino del provider passato invariato, così una variazione di prezzo del fornitore arriva dalla nostra parte lo stesso giorno — elimina un contratto per fornitore dalla build. Failover automatico è la funzionalità specifica che conta quando un processo di trascrizione di due ore deve consegnare il proprio output a una destinazione affidabile alle 2 di notte.

Quello che un router non farà è riconciliare due etichette di parlante in disaccordo, né decidere se le righe di diarizzazione mancanti di Ming siano una debolezza reale o semplicemente non misurata. Questo è un compito che spetta al tuo audio.

Il test che li separa in un pomeriggio

Registra venti minuti con tre persone, una delle quali parla sopra le altre due volte e una delle quali usa il microfono di un laptop. Elaboralo con VibeVoice-ASR-Streaming 1.5B con l'elenco di hotword popolato con i tre nomi, perché è il meccanismo che il modello fornisce proprio per questo. Elabora lo stesso file con Ming-3.0-audio-tiny usando il prompt validato che richiede l'etichetta della lingua, una tabulazione, poi la trascrizione — e poi chiedigli, in un secondo turno, di attribuire ogni frase.

Valuta quattro cose: quanti cambi di interlocutore il primo modello ha individuato correttamente, se qualche etichetta di interlocutore si è invertita a metà registrazione, se l'attribuzione del secondo modello è rimasta stabile lungo tutto il file e quale output potresti correggere più rapidamente a mano. L'ultima non è un benchmark e predirà la tua esperienza in produzione meglio delle cifre di entrambi i fornitori.

E tieni presenti i trattini mentre lo fai. Un fornitore che pubblica una tabella dei dialetti con due cifre decimali e lascia vuote cinque celle di diarizzazione ti ha detto qualcosa di specifico su dove finisce la sua fiducia. Microsoft, da parte sua, ha pubblicato una cifra invece di una tabella e ha lasciato a te il compito di leggere il quadro. Nessuno dei due ti ha dato un numero verificato da un estraneo.

Dove ognuno appartiene davvero

Sottotitoli in tempo reale, monitoraggio dei call center, assistenti per riunioni che hanno bisogno di un nome accanto a ogni riga: VibeVoice-ASR-Streaming 1.5B è costruito per questo tipo di esigenze e, con 5,63 GB, gira su hardware che probabilmente hai già. Revisione di conformità di un archivio, «trova ogni menzione dell'accordo in queste quaranta registrazioni», qualunque caso in cui la domanda arrivi dopo l'audio anziché durante: la singola finestra ampia di Ming-3.0-audio-tiny e i suoi punteggi di comprensione sono la scelta migliore, e le righe di diarizzazione mancanti smettono di importare se nessuno ha chiesto chi ha parlato.

L'errore sarebbe scegliere Ming per un compito di streaming perché 131.072 è il doppio di 64.000, oppure scegliere VibeVoice per un compito di ragionamento perché 1,5B sembra più economico di 9,3B. Entrambi i numeri descrivono qualcosa di diverso da ciò che la frase presume, ed è la cosa più affidabile che questo confronto abbia stabilito.