Phonon vs Whisper Large v3 Turbo: due metà di un loop vocale offline

Confrontare Phonon 31Mcon Whisper Large v3 Turboè un errore di categoria, ed è l'errore di categoria più utile nell'ingegneria del parlato in questo momento. Phonon 31M, rilasciato da Gradium il 20 ottobre 2026, trasforma il testo in audio. Whisper Large v3 Turbo, rilasciato da OpenAI il 1° ottobre 2024, trasforma l'audio in testo. Non competono. Sono i due estremi dello stesso ciclo, ed entrambi sono abbastanza piccoli e veloci da funzionare su hardware di tua proprietà.

C'è una seconda ragione per cui l'accostamento confonde le persone. Entrambi pubblicano un numero chiamato WER, e i due numeri significano cose opposte. Per Whisper, il word error rate misura quanto spesso la trascrizione è sbagliata. Per Phonon, misura quanto spesso un trascrittore sente male il parlato generato dal modello. Un numero più basso è meglio in entrambi i casi, ma non sono la stessa misurazione, e metterli in un'unica colonna è il modo in cui si finisce per fare confronti sbagliati.

Uno ascolta, uno parla

Whisper Large v3 Turbo è un modello di riconoscimento vocale. Mantiene l'encoder completo di Whisper large-v3 e riduce il decoder da 32 livelli a quattro, producendo 809 milioni di parametri invece di 1,55 miliardi. Copre 99 lingue, rileva automaticamente la lingua e non è addestrato per la traduzione. La documentazione di OpenAI lo descrive come circa otto volte più veloce del modello large con un piccolo calo di accuratezza; l'azienda non ha pubblicato un moltiplicatore preciso sulla model card, quindi qualsiasi cifra esatta di velocità deriva da test di terze parti.

Phonon 31M è un modello di sintesi vocale. Prende in input testo e una voce e produce audio mono a 24 kHz tramite un transformer a flow-matching sui latenti Mimi. Ha 31 milioni di parametri, escluso il tokenizer, viene distribuito come GGUF q8 da 64,5 MB ed è Apache 2.0. Non ha alcuna capacità di ascolto — non può trascrivere, diarizzare o rilevare la lingua.

L'unica cosa che condividono è un obiettivo di progettazione: entrambi sono progettati per funzionare senza un centro dati. Whisper Turbo è il membro veloce ed economico di una famiglia diventata la baseline ASR aperta predefinita. Phonon è un tentativo di rendere altrettanto economica la parte della sintesi.

Le stesse tre lettere, due misure differenti

Whisper Large v3 Turbo riporta un WER medio di 7,83 sull'English Open ASR Leaderboard, contro 7,44 per il modello large-v3 completo. Su LibriSpeech test-clean i valori sono intorno al 2,0%. Questi numeri descrivono quanto spesso il modello scrive la parola sbagliata quando sente parlato pulito.

Phonon 31M riporta 0,51% su Seed-TTS e 1,5% su un set più difficile nella sua model card, oppure 1,70% sullo stesso set difficile nel blog di rilascio. Quei numeri descrivono quanto spesso whisper-large-v3 scrive la parola sbagliata quando sente l'output di Phonon. Si noti che il valutatore è Whisper stesso. La metodologia di Gradium è circolare in modo inevitabile: per misurare un modello TTS serve un modello ASR, e il tasso di errore del modello ASR stesso fissa un limite minimo a quanto può sembrare buono il TTS.

Ecco perché un WER TTS dello 0,5% e un WER ASR del 7,8% non sono confrontabili, e perché un WER TTS inferiore a circa l'1% dovrebbe essere letto come "il trascrittore non ha avuto difficoltà", non come "il parlato è quasi perfetto". Gli ascoltatori umani e i valutatori automatici non sono d'accordo, soprattutto sulla prosodia, che nessun WER cattura.

• Attività — sintesi vocale per Phonon 31M; riconoscimento vocale per Whisper Large v3 Turbo.

• Parametri — 31M escluso il tokenizer per Phonon 31M; 809M per Whisper Large v3 Turbo.

• Lingue — Solo inglese per Phonon 31M; 99 per Whisper Large v3 Turbo.

• Output — audio mono a 24 kHz per Phonon 31M; testo con timestamp per Whisper Large v3 Turbo.

• Precisione dichiarata — 0,51% di WER Seed-TTS per Phonon 31M, misurato da Whisper; 7,83 WER medio in inglese per Whisper Large v3 Turbo nella Open ASR Leaderboard.

• Licenza — Apache 2.0 per Phonon 31M; MIT per Whisper Large v3 Turbo.

Dimensionare un loop vocale offline

Se l'obiettivo è un assistente vocale che funziona con la rete disattivata, la distinta base comprende tre modelli, non due. Riconoscimento vocale, generazione del linguaggio e sintesi vocale.

Whisper Large v3 Turbo ha 809 milioni di parametri, circa 1,6 GB di pesi a precisione a 16 bit. L'inferenza su GPU riserva tipicamente diversi gigabyte di memoria di lavoro per attivazioni e batching; le build GGUF quantizzate riducono ulteriormente l'ingombro a un piccolo costo in termini di accuratezza. Non è un modello di classe telefonica nella sua forma Turbo, sebbene varianti più piccole di Whisper e versioni distillate lo siano.

Phonon 31M è 64,5 MB. È circa un venticinquesimo del file dei pesi di Whisper Turbo, e gira su un core della CPU, su un Neural Engine di iPhone o su un Raspberry Pi.

Il modello linguistico nel mezzo è la variabile. Un modello instruct da 1B a 4B quantizzato a quattro bit occupa un paio di gigabyte ed è la scelta consueta per un assistente offline. L'intero ciclo — Whisper Turbo, un piccolo modello instruct, Phonon — rientra in un intervallo che un laptop o uno smartphone di fascia alta può sostenere, con l'ASR come componente più pesante.

Quell'asimmetria è l'intuizione pratica. La metà del ciclo che preoccupa le persone — la sintesi, la parte che deve suonare umana — ora è la metà economica. Il riconoscimento è quella costosa.

Il budget di latenza

I dati del fornitore di Phonon indicano il primo audio a 5-7 ms su un core MacBook Air M5 e a 9 ms su un iPhone 16 Pro, con un throughput compreso tra 11,6 e 41 volte il tempo reale a seconda di quale documento di Gradium si legga. La velocità di Whisper Turbo dipende fortemente dall'hardware e dal backend: OpenAI lo descrive come circa otto volte più veloce di large-v3, mentre i benchmark della community con build quantizzate riportano decine di volte il tempo reale su Apple silicon e valori molto più lenti su CPU.

Per un ciclo conversazionale, la fase di riconoscimento domina. Un enunciato di tre secondi richiede poche centinaia di millisecondi per essere trascritto su una GPU da laptop e quasi il tempo reale su una CPU debole. Al confronto, la fase di sintesi è praticamente istantanea. I team che ottimizzano prima il TTS stanno ottimizzando la parte sbagliata.

La copertura linguistica è il vincolo imprescindibile

Whisper gestisce 99 lingue. Phonon 31M ne gestisce una, e la scheda di Gradium avverte che le altre lingue vengono pronunciate in modo errato. Un assistente vocale multilingue non può quindi essere costruito da questa coppia: il riconoscimento funziona in giapponese, la sintesi no.

La risposta di Gradium è la famiglia Phonon 40M, che copre inglese, francese, tedesco, spagnolo e portoghese. Sono cinque lingue, non 99, e i checkpoint 40M sono CC BY-NC 4.0 — non utilizzabili in un prodotto commerciale senza un accordo separato. Il divario multilingue tra ASR aperto e TTS aperto è uno dei più ampi nello stack, e nulla rilasciato questo mese lo colma.

Dove si incontrano in un prodotto reale

L'applicazione naturale è uno strumento di trascrizione e riproduzione: registra una riunione o una nota vocale, trascrivila con Whisper, poi leggi ad alta voce un riassunto con Phonon. Entrambi funzionano localmente, entrambi hanno una licenza permissiva e nessuno dei due invia audio a terze parti. Uno strumento di dettatura medica, un registratore da campo, un'app di accessibilità per utenti sordi e con problemi di udito, o un giocattolo offline per l'apprendimento delle lingue rientrano tutti nella stessa struttura.

La seconda applicazione è un agente vocale con un primo passaggio locale e un fallback cloud. Whisper trascrive sul dispositivo; se la confidenza è bassa, l'audio viene inviato a un ASR ospitato. Il modello linguistico abbozza una risposta; se serve un modello più grande, la richiesta viene instradata all'esterno. Phonon pronuncia il risultato; se il dispositivo è soggetto a throttling termico, subentra un TTS ospitato. Ogni fase ha un'opzione locale e una remota, e il prodotto decide quale usare per ogni richiesta.

Il livello di testo tra di essi.

Whisper produce una trascrizione, Phonon consuma un copione, e qualcosa deve trasformare l'una nell'altro. Quel qualcosa è un modello linguistico, ed è l'unica parte del ciclo che trae vantaggio dall'essere grande.

OrcaRouter non ospita nessuno di questi due modelli — Whisper Large v3 Turbo viene eseguito tramite il tuo stack di inferenza, mentre Phonon gira sul dispositivo — quindi nessuno dei due compare nel nostro catalogo. Ciò che la piattaforma copre è la parte intermedia: una sola API per oltre 200 modelli linguistici al prezzo di listino del provider con 0% di ricarico, failover automatico tra provider, e un DSL di routing in grado di indirizzare un modello economico verso i turni di routine e uno più potente verso quelli difficili. In una progettazione offline-first, quel livello è la parte che rimane online.

Che cosa confrontare effettivamente

Se stai scegliendo un modello vocale, confronta Phonon con gli altri sistemi TTS e Whisper Turbo con gli altri sistemi ASR. Se stai costruendo un prodotto, confronta i cicli: memoria totale, latenza totale, licenze totali, lingue totali. Su questa base, la coppia è coerente per lavori solo in inglese, offline e con licenza permissiva, e incoerente per qualsiasi cosa multilingue o commerciale nella fascia 40M.

L'errore da evitare è leggere il WER di Phonon pari allo 0,51% accanto al 7,83% di Whisper e concludere che la sintesi ha superato il riconoscimento. I numeri sono prodotti da processi diversi che misurano cose diverse, e uno dei due è misurato dall'altro. La domanda utile non è quale modello sia migliore. È se il ciclo che puoi assemblare da componenti aperti questo mese sia abbastanza buono per il prodotto che hai in mente — e per l'inglese, offline, su un portatile, la risposta è appena cambiata.