Ming-3.0-audio-tiny ora gira su una sola GPU — e la sua configurazione finalmente indica 128K

Il checkpoint dietro Ming-3.0-audio-tiny è scaricabile dal 3 settembre 2026 — due shard safetensors, 17,7 GB, pubblicati nove minuti dopo la creazione del repository stesso. Fino a questa settimana non esisteva quasi nulla di ciò che spiega come eseguirlo. Tra il 16 e il 19 ottobre 2026 inclusionAI ha sostituito la configurazione fornita a settembre, trasformando una variante video-linguaggio-audio con una finestra di 8.192 token in una solo audio che dichiara 131.072, ha aggiunto il Talker che genera il parlato, ha aggiunto due clip vocali di riferimento con le relative trascrizioni e — dopo tre giorni in cui il repository non aveva alcuna model card — ne ha scritta una. Il codice a cui quei documenti rimandano è arrivato su GitHub il 15 ottobre, in un repository intitolato al fratello maggiore, Ming-3.0-audio-flash, e contiene tre profili di deployment per il modello tiny che il modello tiny non ha mai avuto. Nessuno ha annunciato nulla di tutto ciò. Quindi la domanda a cui vale la pena rispondere non è cosa c'è di nuovo, perché i pesi hanno sette settimane e sono identici byte per byte al giorno in cui sono arrivati. La domanda è cosa può eseguire ora un lettore che lunedì scorso non poteva eseguire, e quanto costa in termini di accuratezza quando lo fa. I fallimenti dell'IA e gli incidenti con agenti documentati che stanno dietro a rilasci come questo sono raccolti in l'OrcaRouter AI Incident Archive dove ogni voce riporta le proprie fonti, la gravità, il livello di confidenza e l'indicatore di contestazione.

Cosa è cambiato, datato al commit

Il log dei commit di Hugging Face è abbastanza breve da poter essere letto per intero, e la sua struttura è insolita: tre commit a settembre, nulla per tre settimane, poi sei in quattro giorni.

• 3 settembre, 11:45 e 11:49 UTC — il repository viene creato, poi i due shard compaiono sotto "Add files using upload-large-folder tool". Il README che li accompagna è intitolato "Ming Audio V3", dichiara Apache 2.0, aggiunge al repository il tag automatic-speech-recognition, e afferma che il repository "documenta attualmente il percorso ASR."

• 17 settembre — la cartella examples/ viene eliminata. Dopo di che il repository è composto da pesi, codice di modellazione personalizzato e una breve scheda, e nient'altro.

• 16 ottobre, dalle 08:14 alle 08:20 UTC — quello determinante. config.json viene riscritto: max_position_embeddings sul backbone testuale passa da 8.192 a 131.072, transformers_version da 4.56.2 a 5.14.1, e audio_config.model_type da bailing_moe_v3_vl_audio a bailing_moe_v3_audio — il tipo video-language-audio che non descrive più il modello. Nello stesso push auto_map guadagna le voci AutoModel e AutoProcessor che prima non aveva, compare un processor_config.json, e arriva l'albero talker/: un modello vocale da 1,4 GB, un VAE da 1,6 GB, un encoder di speaker CAM++, trasduttori a stati finiti per la normalizzazione del testo per inglese e cinese. Il vecchio README sparisce nello stesso push — per i tre giorni successivi il repository non ha alcuna model card.

• 17 ottobre, 11:44 UTC — "Aggiungi preset vocali." Due WAV di riferimento, US_James.wav e 灵楷.wav, più un file JSON contenente le loro trascrizioni esatte.

• 19 ottobre, 10:36, 11:44 e 11:49 UTC — tre commit di pulizia e caricamento.

• 19 ottobre, 13:19 UTC — "Aggiungi la model card di Ming-3.0-audio-tiny." 8.514 byte, e il primo documento nella storia del repository che descrive un modello speech-and-audio anziché un percorso ASR.

Il lato GitHub ha una propria tempistica, e inizia più tardi. inclusionAI/Ming-3.0-audio-flash è stato creato il 15 ottobre alle 03:50 UTC — sei settimane dopo che i pesi esistevano — ed era ancora in fase di push il 19 ottobre alle 14:53 UTC. Ha otto stelle, un file di licenza MIT e una deploy/ directory contenente sei profili YAML, tre dei quali sono per il checkpoint tiny indicato per nome. Non esiste alcun inclusionAI/Ming-3.0-audio-tiny repository; quell'URL restituisce 404, e il codice del modello tiny si trova nel repository flash insieme a quello del suo gemello.

La riscrittura della configurazione è la vera storia.

Un campo relativo alla lunghezza del contesto che aumenta di 16× è il tipo di modifica che o è cosmetica o è strutturale, e in questo caso il resto del diff dice che è strutturale. A settembre il repository ha pubblicato modeling_bailing_moe_v3_audio.py e processing_bailing_moe_v3_audio.py nell'albero, ma la sua configurazione descriveva una torre audio di tipo bailing_moe_v3_vl_audio — un residuo di una build video-linguistica — e la sua scheda ti diceva di istanziare il modello con trust_remote_code=False, il che non è quello che vogliono i file di modellazione personalizzati. La configurazione di ottobre è la prima in cui il tipo dichiarato, il runtime dichiarato e il percorso del codice concordano.

• Backbone — 24 layer, dimensione nascosta 1.536, 16 teste di attenzione, 128 esperti instradati con 8 attivi per token e un esperto condiviso, dimensione intermedia dell'esperto 512, primo layer denso all'indice 1, fattore di scala di routing 2,5, vocabolario 157.184.

• Attenzione — MLA, con un latente KV a 512 dimensioni e un latente query a 256 dimensioni, rope_theta 6.000.000, partial_rotary_factor 0,5. La forma KV a basso rango è ciò che rende persino sostenibile una finestra di 131.072 token su una singola scheda: la cache memorizza il latente, non chiavi e valori per testa.

• Torre audio — 32 strati, larghezza 1.280, 20 teste, un contesto di 3.000 frame e 128 bin mel, con un downsampler con kernel [3,3,3] e stride [2,2,2]. ID token audio 157.168.

• Dimensione — 9.3B parametri totali, 2.7B attivati per token, bfloat16 ovunque, dichiarati in riferimento a Transformers 5.14.1.

• Ingressi e uscite — in ingresso audio e un'istruzione testuale; in uscita testo, oppure testo e parlato sintetizzato tramite il Talker opzionale. Cinese e inglese, inclusi accenti e dialetti, come indicato nella scheda.

Ciò che la riscrittura della configurazione non fa è aggiungere alcun peso. I quattro file safetensors nel repository — due shard del Thinker, il Talker, il VAE — hanno le stesse dimensioni a ogni revisione che ho controllato, fino al caricamento iniziale. Si è trattato di una modifica di documentazione e packaging a un checkpoint invariato, ed è proprio per questo che il salto da 8.192 a 131.072 è affidabile: nessuno ha riaddestrato nulla, quindi l'affermazione può essere verificata caricando il modello e chiedendo un contesto lungo invece che accettata per fede.

Un punto della documentazione è ancora incoerente. Il tag della pipeline Hugging Face di primo livello del repository riporta text-to-speech, mentre la sintesi della card stessa lo definisce un modello audio-linguistico che accetta istruzioni e restituisce testo o parlato. Il tag è un residuo del fatto che Talker sia stata la funzionalità su cui si è intervenuti più di recente, ed è il genere di cosa che non importa a nessuno tranne a chi filtra l'Hub per attività.

Una GPU per il testo, due per la voce

È qui che il modello minuscolo si guadagna il suo nome, ed è visibile solo perché i profili di deployment sono ora pubblici. Il profilo testuale del modello flash gira su dispositivi: "0,1,2,3,4,5,6,7" con tensor_parallel_size: 8 — otto schede da 80 GB, che è ciò che 256 GB di pesi bf16 impongono prima che venga allocata qualsiasi cache. Il modello minuscolo ha tre profili propri, e due di essi richiedono una sola scheda.

• Testo e ASR, vLLM-Omni — un singolo stage su dispositivi: "0", dimensione del parallelismo tensoriale 1, max_model_len 131,072, max_num_batched_tokens 32,768, gpu_memory_utilization 0.92, campionamento a temperatura 0.6 e fino a 65,536 token di output.

• Audio completo con output vocale — due fasi. Il Thinker su devices: "0" a 0,78 della scheda, e il Talker su devices: "1" a 0,18, con la fase Talker limitata a un token di output e temperatura 0,0 perché non sta generando testo.

• Riproduzione ASR — una pipeline solo thinker con un processore logit no-repeat per 10-gram aggiunto a forza, audio limitato a una clip per prompt, max_model_len 131.072, temperatura 0.0, 32.768 token di output. È la configurazione in base alla quale sono stati ottenuti i numeri di riconoscimento del fornitore, e vale la pena copiarla esattamente se intendi confrontare.

• SGLang — una GPU, un solo dispositivo visibile, solo output di testo. La scheda specifica esplicitamente che l'output vocale non è disponibile su questo percorso.

Quei profili sono file, non prosa, e sono visibili nella directory deploy/ del repository flash — sei profili YAML, tre dei quali prendono il nome dal piccolo checkpoint.

Leggi con onestà i numeri della memoria. 0,92 è una quota di qualunque scheda su cui indirizzi lo stage, non un requisito: gli shard del Thinker totalizzano 17,74 GB, quindi i pesi entrano in una scheda da 24 GB con circa 6 GB liberi per cache e attivazioni. La prenotazione di 0,92 è dimensionata per una finestra di 131.072 token più un batch da 32.768 token contemporaneamente, e scende se abbassi max_model_len. Quello che non puoi fare su una singola scheda è produrre parlato, perché il Talker e il suo VAE sono un secondo processo con un secondo set di pesi — 3 GB prima dell'encoder CAM++ e dei trasduttori — e il profilo di riferimento assegna loro un dispositivo dedicato. Testo su una GPU, conversazione ad alta voce su due: questa è l'aritmetica onesta, ed è una voce di budget diversa dagli otto del fratello.

Cosa c'è effettivamente nel download

Il repository totalizza 20,78 GB. Il Thinker è di 17,74 GB in due shard da 9,55 GB e 8,19 GB; il Talker aggiunge 1,40 GB, il suo VAE 1,56 GB, l'encoder del parlante 28 MB, mentre i file del tokenizer e del normalizzatore costituiscono il resto. Non esiste una variante quantizzata, nessun checkpoint più piccolo e nessuna conversione GGUF pubblicata dal fornitore, quindi il valore bf16 è il minimo a meno che non lo si quantizzi personalmente.

• Caricamento — AutoProcessor.from_pretrained(..., trust_remote_code=True, use_fast=False) e AutoModelForCausalLM.from_pretrained(..., dtype=torch.bfloat16, device_map="auto", trust_remote_code=True). Lo snippet della card stessa converte poi a mano audio_feats nel dtype del modello, il che è un piccolo indizio che il percorso del processor non era la priorità.

• Il contratto ASR — il prompt validato chiede al modello di indicare la lingua parlata e di inserire una tabulazione tra l'etichetta della lingua e la trascrizione. Se stai costruendo un harness di valutazione, quella tabulazione è il tuo parser. Un'istruzione generica "trascrivi questo" non è la configurazione misurata da inclusionAI.

• Voci — l'impostazione predefinita di vLLM-Omni è una voce integrata chiamata 灵小柔, e la directory del modello include due preset di riferimento, 灵楷 e US_James, con le trascrizioni. La clonazione vocale richiede un WAV di riferimento e la sua trascrizione esatta; la scheda avverte che non è possibile combinare la selezione di una voce integrata con una clip di riferimento in un'unica richiesta.

• Licenza — MIT nei metadati della card e nel LICENSE del repository GitHub, datato 2025. Nota cosa manca: il repository Hugging Face non contiene alcun file LICENSE proprio. L'unico testo di licenza fisicamente al suo interno appartiene a un modello di identificazione della lingua incluso in talker/data/. La dichiarazione MIT è reale ma si trova a un clic di distanza, in un repository che porta il nome dell'altro modello.

• Traction — tre download e cinque like, a oggi, questa settimana. Il modello flash ha 22 download e otto like. Nessuno dei due numeri è una prova sulla qualità; entrambi sono prova che un upload di settembre senza scheda e senza annuncio non ha circolato.

Il quadro di riferimento e la colonna che manca

Tre PNG in assets/ contengono la valutazione, e tutti e tre provengono da un'esecuzione della stessa inclusionAI. Il fornitore contrassegna con un asterisco le voci autovalutate e osserva che i modelli di confronto sono stati riprodotti con i propri prompt e le proprie impostazioni di decodifica, per cui i loro numeri possono differire da quelli dei report ufficiali. Non ho trovato alcuna valutazione indipendente di questo checkpoint pubblicata — nessuna voce in arena, nessun punteggio di terze parti — il che significa che ogni cifra riportata di seguito è un fornitore che descrive il proprio modello. Non è un motivo per ignorarle; è un motivo per leggerle come un brief progettuale anziché come un verdetto.

Il confronto utile è esiguo rispetto al suo modello gemello, perché entrambi hanno eseguito lo stesso harness. Sul riconoscimento il modello più piccolo perde un po', mentre sul ragionamento su audio lunghi perde parecchio.

• Media ASR cinese — tasso di errore sui caratteri 3,79 per Ming-3.0-audio-tiny contro 3,45 per Ming-3.0-audio-flash. Più basso è meglio, quindi tiny è indietro di 0,34 punti.

• Media ASR inglese — 4,36 contro 3,69. Media dialetto — 10,29 contro 9,40.

• BigBenchAudio — 99.20 contro 99.40. Di fatto un pareggio, e l'unica riga in cui la differenza di dimensioni non si nota.

• MMAU — 75,90 contro 82,00. MMAR — 67,70 contro 74,40. MMSU — 73,06 contro 78,82. MMAU-Pro — 56,42 contro 66,41.

• Accuratezza su audio lungo — 56,39 rispetto a 66,30. LongAudioSpan — 35,45 rispetto a 41,12. Punteggio Chain su audio lungo — 10,56 rispetto a 12,31.

• Interazione vocale — URO-Bench-Pro 54,15 contro 81,92, un crollo di 27,8 punti. VoiceBench 74,29 contro 86,74. SpeechFCEval 69,80 contro 82,60.

• Chiamata degli strumenti — BFCL-v3 Audio 79,80 contro 81,40. Musica — MuchoMusic 58,07 contro 65,65.

Le righe dei dialetti sono l'eccezione interessante, perché tiny non perde in modo uniforme. Supera il suo fratello maggiore su Anhui (5,42 contro 5,76), mandarino nordorientale (4,21 contro 4,28), Jiangsu (11,44 contro 12,15), Shaanxi (5,81 contro 6,00), Shandong (10,17 contro 10,69) e Yunnan (11,28 contro 11,53), e perde nettamente su Hakka (24,08 contro 16,51), Hokkien (14,15 contro 12,84) e Shanghainese (12,49 contro 11,15). Un modello con 2,7B attivi che tiene sei delle quindici righe dei dialetti contro uno con 6,5B attivi è la cosa più favorevole dell'intera valutazione, ed è sepolto nel mezzo di una tabella dove la media lo nasconde.

Due lacune meritano di essere segnalate perché sono verificabili e la scheda non le evidenzia. Primo, cinque righe dell'immagine di riconoscimento non riportano alcun valore tiny: le righe di diarizzazione degli speaker e di permutazione minima concatenata per AISHELL-4, AliMeeting e AMI sono stampate come un trattino. Qualunque cosa faccia il modello tiny su "chi ha parlato quando" non è pubblicata. Secondo, l'immagine di text intelligence ha quattro colonne e nessuna di esse è il modello tiny: le sue colonne sono Ming-3.0-audio-flash, Qwen3.8-Omni Flash, Qwen3.5-Omni Plus e Qwen3.5-Omni Flash. La sezione di valutazione della scheda dice che le cifre sotto includono i risultati per entrambe le varianti Ming, il che è vero per le due immagini audio e non per quella testuale. Se ti serve sapere se il backbone tiny può sostenere una conversazione di ragionamento, inclusionAI non te l'ha detto.

Cosa ti ha realmente portato la settimana

Prima del 16 ottobre, un lettore che voleva provare questo checkpoint aveva un download da 17,7 GB, una configurazione che descriveva un modello video-linguistico con una finestra da 8K e una scheda che gli diceva di caricare codice personalizzato senza abilitare il codice personalizzato. Dopo il 19 ottobre ha una configurazione che corrisponde ai propri file del modello, un'affermazione sui 128K verificabile rispetto a pesi invariati, tre profili di deployment denominati, incluso uno su singola GPU, un pacchetto voce con trascrizioni e una scheda che dice a cosa serve il modello. Niente di tutto ciò è un nuovo modello. Tutto ciò è la differenza tra un checkpoint su un disco e un checkpoint che qualcuno può valutare in un pomeriggio.

Il costo è la parte che il dimensionamento nasconde. Nelle tabelle stesse del fornitore, passare dal modello con 6,5B attivi a quello con 2,7B attivi ti fa ottenere un ottavo del numero di GPU e ti addebita 27,8 punti su URO-Bench-Pro, dieci su VoiceBench e circa un quinto del punteggio Chain sull'audio lungo. È uno scambio ragionevole per un servizio di trascrizione, pessimo per qualsiasi cosa debba ragionare su un'ora di audio, e il fornitore ha stampato le due colonne una accanto all'altra così puoi decidere quale stai costruendo.

Dove un router merita il suo posto, e dove no

OrcaRouter non serve Ming-3.0-audio-tiny. Non è nel nostro catalogo, non possiamo fornirvi un endpoint per questo e nulla di quanto scritto qui va inteso come un'offerta in tal senso. Ciò per cui un router è utile in una pipeline costruita attorno a un checkpoint come questo è la metà che non è il checkpoint. I sistemi vocali sono per lo più lavoro testuale: il prompt che decide cosa chiedere all'audio, il parser che trasforma un'etichetta linguistica delimitata da tabulazioni in output strutturato, il riassunto scritto dalla trascrizione, la classificazione che decide se un file audio va al modello 2.7B o a quello 126B. Sono normali chiamate testuali, e un'unica API per più di 200 modelli a markup 0% — prezzo di listino del fornitore passato così com'è, quindi un taglio di prezzo del vendor è attivo dalla nostra parte lo stesso giorno — è una cosa più semplice da collegare rispetto a una pila di contratti con fornitori. Failover automatico è ciò che ti consente di mettere un modello appena documentato dietro una parte di una pipeline senza puntare l'intero percorso su di esso.

Vale la pena dire chiaramente dove sta il confine. Un checkpoint da 17,7 GB eseguito sulla propria GPU è infrastruttura, non una chiamata API. Un router instrada chiamate. Non trasforma un modello audio open-weights in un modello ospitato, e non trasforma tre download in prove di produzione.

Cosa guardare

Tre cose cambierebbero questo quadro, e tutte e tre sono verificabili. Primo, un punteggio indipendente: nel momento in cui un'arena o un valutatore di terze parti elenca questo checkpoint, il divario di 27,8 punti nell'interazione vocale smette di essere un'autodichiarazione del fornitore e diventa un dato; fino ad allora, va notato che lo stesso fornitore ha anche pubblicato sei righe dialettali in cui il modello più piccolo vince. Secondo, un file LICENSE all'interno del repository Hugging Face, che sposterebbe la licenza MIT da un link in una scheda a un fatto nell'artefatto che un processo di approvvigionamento legge effettivamente. Terzo, un piccolo repository GitHub dedicato: oggi i profili di deployment che rendono reale l'affermazione sulla singola GPU risiedono in un repository intitolato al modello più grande, il che va bene finché qualcuno non lo rinomina.

Finché uno di questi non arriva, la descrizione accurata è poco glamour. Gli stessi pesi del 3 settembre, circa 18 GB di Thinker, una finestra di 131.072 token arrivata in una config invece che in un checkpoint, tre profili di serving che stanno su una scheda per il testo e su due per la voce, MIT sulla carta, cinque righe di riferimento che non ha voluto pubblicare e una model card più giovane di tre giorni rispetto alla config che descrive. La settimana non ha reso il modello migliore. L'ha reso leggibile, e per un checkpoint open-weights che nessuno ha annunciato, leggibile è tutto il prodotto.