Phonon vs Whisper Large v3 Turbo: twee helften van een offline spraaklus

Het vergelijken van Phonon 31M met Whisper Large v3 Turbo is een categoriefout, en het is momenteel de nuttigste categoriefout in de spraaktechnologie. Phonon 31M, uitgebracht door Gradium op 20 oktober 2026, zet tekst om in audio. Whisper Large v3 Turbo, uitgebracht door OpenAI op 1 oktober 2024, zet audio om in tekst. Ze concurreren niet. Ze zijn de twee uiteinden van dezelfde lus, en ze zijn allebei klein en snel genoeg om te draaien op hardware die je zelf bezit.

Er is een tweede reden waarom de combinatie mensen in verwarring brengt. Beide publiceren een getal dat WER heet, en de twee getallen betekenen het tegenovergestelde. Voor Whisper meet het woordfoutpercentage hoe vaak de transcriptie onjuist is. Voor Phonon meet het hoe vaak een transcriber de spraak die het model heeft gegenereerd verkeerd verstaat. Een lager getal is in beide gevallen beter, maar het zijn niet dezelfde metingen, en door ze in één kolom te zetten ontstaan slechte vergelijkingen.

De een luistert, de ander spreekt

Whisper Large v3 Turbo is een spraakherkenningsmodel. Het behoudt de volledige encoder van Whisper large-v3 en verkleint de decoder van 32 lagen naar vier, wat 809 miljoen parameters oplevert in plaats van 1,55 miljard. Het ondersteunt 99 talen, detecteert de taal automatisch en is niet getraind voor vertaling. De documentatie van OpenAI beschrijft het als ongeveer acht keer sneller dan het grote model, met slechts een kleine teruggang in nauwkeurigheid; het bedrijf heeft geen precieze factor op de modelkaart gepubliceerd, dus elk exact snelheidscijfer is afkomstig van tests door derden.

Phonon 31M is een spraaksynthesemodel. Het neemt tekst en een stem en produceert 24 kHz mono-audio via een flow-matching-transformer over Mimi-latents. Het heeft 31 miljoen parameters, exclusief de tokenizer, wordt geleverd als een q8-GGUF van 64,5 MB en valt onder Apache 2.0. Het heeft helemaal geen luistervermogen — het kan niet transcriberen, diariseren of taal detecteren.

Het enige dat ze gemeen hebben, is een ontwerpdoel: beide zijn gebouwd om te draaien zonder datacenter. Whisper Turbo is het snelle, goedkope lid van een familie die de standaard open ASR-baseline is geworden. Phonon is een poging om de synthesehelft even goedkoop te maken.

Dezelfde drie letters, twee verschillende metingen

Whisper Large v3 Turbo rapporteert een gemiddelde WER van 7,83 op de English Open ASR Leaderboard, tegenover 7,44 voor de volledige large-v3. Op LibriSpeech test-clean liggen de cijfers rond 2,0%. Die cijfers beschrijven hoe vaak het model het verkeerde woord schrijft wanneer het schone spraak hoort.

{{1}}Phonon 31M rapporteert 0,51% op Seed-TTS en 1,5% op een moeilijkere set in zijn modelkaart, of 1,70% op dezelfde moeilijke set in de releaseblog. Die cijfers beschrijven hoe vaak whisper-large-v3 het verkeerde woord schrijft wanneer het de output van Phonon hoort. Merk op dat de scorer Whisper zelf is. De methodologie van Gradium is op een onvermijdelijke manier circulair: om een TTS-model te meten heb je een ASR-model nodig, en het eigen foutpercentage van het ASR-model bepaalt een ondergrens voor hoe goed de TTS kan lijken.{{/1}}

Daarom zijn een TTS-WER van 0,5% en een ASR-WER van 7,8% niet met elkaar te vergelijken, en daarom moet een TTS-WER onder ongeveer 1% worden opgevat als "de transcriber had geen moeite", niet als "de spraak is bijna perfect." Menselijke luisteraars en automatische beoordelaars zijn het niet met elkaar eens, vooral over prosodie, die geen enkele WER vastlegt.

• Taak — tekst-naar-spraak voor Phonon 31M; spraak-naar-tekst voor Whisper Large v3 Turbo.

Parameters — 31M exclusief de tokenizer voor Phonon 31M; 809M voor Whisper Large v3 Turbo.

• Talen — alleen Engels voor Phonon 31M; 99 voor Whisper Large v3 Turbo.

• Uitvoer — 24 kHz mono-audio voor Phonon 31M; tekst met tijdstempels voor Whisper Large v3 Turbo.

• Gerapporteerde nauwkeurigheid — 0,51% Seed-TTS WER voor Phonon 31M, gemeten door Whisper; 7,83 gemiddelde Engelse WER voor Whisper Large v3 Turbo op het Open ASR Leaderboard.

• Licentie — Apache 2.0 voor Phonon 31M; MIT voor Whisper Large v3 Turbo.

Een offline spraaklus dimensioneren

Als het doel een spraakassistent is die offline werkt, bestaat de stuklijst uit drie modellen, niet twee. Spraakherkenning, taalgeneratie en spraaksynthese.

Whisper Large v3 Turbo heeft 809 miljoen parameters, ongeveer 1,6 GB aan gewichten bij 16-bit precisie. GPU-inferentie reserveert doorgaans meerdere gigabytes werkgeheugen voor activaties en batching; gequantiseerde GGUF-builds verkleinen de voetafdruk verder ten koste van een kleine nauwkeurigheidsvermindering. In zijn Turbo-vorm is het geen model van telefoonklasse, hoewel kleinere Whisper-varianten en gedistilleerde versies dat wel zijn.

Phonon 31M is 64,5 MB. Dat is ongeveer een vijfentwintigste van het gewichtsbestand van Whisper Turbo, en het draait op een CPU-kern, een iPhone Neural Engine of een Raspberry Pi.

Het taalmodel in het midden is de variabele. Een instructiemodel van 1B tot 4B, gekwantiseerd naar vier bits, past in een paar gigabyte en is de gebruikelijke keuze voor een offline assistent. De volledige lus — Whisper Turbo, een klein instructiemodel, Phonon — valt binnen een bereik dat een laptop of een high-end telefoon aankan, waarbij de ASR de zwaarste component is.

Die asymmetrie is het praktische inzicht. De helft van de lus waar mensen zich zorgen over maken — synthese, het deel dat menselijk moet klinken — is nu de goedkope helft. Herkenning is de dure.

Het latentiebudget

De leverancierscijfers van Phonon stellen de tijd tot eerste audio op 5 tot 7 ms op een MacBook Air M5-core en 9 ms op een iPhone 16 Pro, met een doorvoer tussen 11,6 en 41 keer realtime, afhankelijk van welk document van Gradium je leest. De snelheid van Whisper Turbo hangt sterk af van de hardware en backend: OpenAI beschrijft het als ongeveer acht keer sneller dan large-v3, en communitybenchmarks met gequantiseerde builds melden tientallen keren realtime op Apple silicon en veel tragere waarden op CPU.

In een gesprekslus domineert de herkenningsstap. Een uiting van drie seconden kost een paar honderd milliseconden om te transcriberen op een laptop-gpu en bijna realtime op een zwakke CPU. De synthesestap is daarbij vergeleken praktisch ogenblikkelijk. Teams die de TTS eerst optimaliseren, optimaliseren de verkeerde kant.

Taaldekking is de harde beperking.

Whisper ondersteunt {{1}}99 talen{{/1}}. {{2}}Phonon 31M{{/2}} ondersteunt er één, en {{3}}de kaart van Gradium{{/3}} waarschuwt dat andere talen verkeerd worden uitgesproken. Een meertalige spraakassistent kan daarom niet op basis van dit tweetal worden gebouwd: herkenning werkt in het Japans, synthese niet.

Het antwoord van Gradium is de Phonon 40M-familie, die Engels, Frans, Duits, Spaans en Portugees dekt. Dat zijn vijf talen, geen 99, en de 40M-checkpoints vallen onder CC BY-NC 4.0 — niet bruikbaar in een commercieel product zonder aparte overeenkomst. De meertalige kloof tussen open ASR en open TTS is een van de grootste in de stack, en niets dat deze maand is uitgebracht dicht die.

Waar ze samenkomen in een echt product

De voor de hand liggende toepassing is een tool voor transcriptie en weergave: neem een vergadering of een spraakbericht op, transcribeer het met Whisper en lees vervolgens een samenvatting hardop voor met Phonon. Beide draaien lokaal, beide hebben een permissieve licentie en geen van beide stuurt audio naar een derde partij. Een medische dicteertool, een veldrecorder, een toegankelijkheidsapp voor dove en slechthorende gebruikers of een offline taalleerspeeltje passen allemaal in hetzelfde stramien.

De tweede applicatie is een spraakagent met een lokale eerste verwerking en een terugvaloptie in de cloud. Whisper transcribeert op het apparaat; als het vertrouwen laag is, gaat de audio naar een gehoste ASR. Het taalmodel stelt een antwoord op; als het een groter model nodig heeft, wordt het verzoek naar buiten gerouteerd. Phonon spreekt het resultaat uit; als het apparaat thermisch wordt afgeknepen, neemt een gehoste TTS het over. Elke fase heeft een lokale en een externe optie, en het product beslist welke per verzoek wordt gebruikt.

De tekstlaag daartussen

Whisper produceert een transcript, Phonon consumeert een script, en iets moet het ene in het andere omzetten. Dat iets is een taalmodel, en het is het enige onderdeel van de lus dat baat heeft bij groot zijn.

OrcaRouter host geen van deze twee modellen — Whisper Large v3 Turbo draait via je eigen inference-stack, en Phonon draait op het apparaat — dus geen van beide staat in onze catalogus. Wat het platform dekt, is het midden: één API voor meer dan 200 taalmodellen tegen de lijstprijs van de provider met 0% opslag, automatische failover tussen providers, en een routing-DSL die de routinematige beurten naar een goedkoop model kan sturen en de moeilijke naar een sterker model. In een offline-first ontwerp is die laag het deel dat online blijft.

Wat je daadwerkelijk moet vergelijken

Als je een spraakmodel kiest, vergelijk dan Phonon met andere TTS-systemen en Whisper Turbo met andere ASR-systemen. Als je een product bouwt, vergelijk dan de lussen: totaal geheugen, totale latentie, totale licenties, totale talen. Op die maatstaf is het paar coherent voor alleen-Engels, offline werk met permissieve licenties en incoherent voor alles wat meertalig of commercieel is in de 40M-klasse.

De fout die je moet vermijden, is Phonons 0,51% WER naast Whisper's 7,83% te leggen en te concluderen dat synthese spraakherkenning heeft ingehaald. De cijfers komen voort uit verschillende processen die verschillende dingen meten, en het ene wordt gemeten door het andere. De nuttige vraag is niet welk model beter is. Het is of de lus die je deze maand uit open onderdelen kunt samenstellen, goed genoeg is voor het product dat je voor ogen hebt — en voor Engels, offline, op een laptop, is het antwoord zojuist veranderd.