Phonon vs Whisper Large v3 Turbo: två halvor av en offline-röstloop

Att jämföra Phonon 31M med Whisper Large v3 Turbo är ett kategorimisstag, och det är det mest användbara kategorimisstaget inom talteknologi just nu. Phonon 31M, som släpptes av Gradium den 20 oktober 2026, omvandlar text till ljud. Whisper Large v3 Turbo, som släpptes av OpenAI den 1 oktober 2024, omvandlar ljud till text. De konkurrerar inte. De är de två ändarna av samma slinga, och båda är tillräckligt små och snabba för att köras på hårdvara du äger.

Det finns en andra anledning till att sammankopplingen förvirrar människor. Båda publicerar ett tal som kallas WER, och de två talen betyder motsatta saker. För Whisper mäter ordFelsfrekvensen hur ofta transkriptionen är fel. För Phonon mäter den hur ofta en transkriberare hör fel på talet som modellen genererade. Ett lägre tal är bättre i båda fallen, men de är inte samma mätning, och att placera dem i samma kolumn är precis så dåliga jämförelser görs.

En lyssnar, en talar

Whisper Large v3 Turbo är en taligenkänningsmodell. Den behåller hela encodern från Whisper large-v3 och krymper dekodern från 32 lager till fyra, vilket ger 809 miljoner parametrar i stället för 1,55 miljarder. Den täcker 99 språk, identifierar språk automatiskt och är inte tränad för översättning. OpenAI:s dokumentation beskriver den som ungefär åtta gånger snabbare än den stora modellen till en liten kostnad i noggrannhet; företaget publicerade ingen exakt multiplikator på modellkortet, så varje exakt hastighetssiffra kommer från tredjepartstester.

Phonon 31M är en talsyntesmodell. Den tar text och en röst och producerar 24 kHz monoljud via en flödesmatchnings-transformer över Mimi-latenter. Den har 31 miljoner parametrar exklusive tokenizern, levereras som en 64,5 MB q8 GGUF och är Apache 2.0. Den har ingen lyssnarförmåga alls – den kan inte transkribera, diarisera eller identifiera språk.

Det enda de har gemensamt är ett designmål: båda är byggda för att kunna köras utan ett datacenter. Whisper Turbo är den snabba, billiga medlemmen av en familj som har blivit den självklara öppna ASR-baslinjen. Phonon är ett försök att göra syntesdelen lika billig.

Samma tre bokstäver, två olika mått

Whisper Large v3 Turbo rapporterar ett genomsnittligt WER på 7,83 på English Open ASR Leaderboard, mot 7,44 för den fullständiga large-v3. På LibriSpeech test-clean ligger siffrorna runt 2,0 %. Dessa siffror beskriver hur ofta modellen skriver fel ord när den hör tydligt tal.

Phonon 31M rapporterar 0,51 % på Seed-TTS och 1,5 % på en svårare uppsättning i sitt modellkort, eller 1,70 % på samma svåra uppsättning i lanseringsbloggen. Dessa siffror beskriver hur ofta whisper-large-v3 skriver fel ord när den hör Phonons utdata. Lägg märke till att bedömaren är Whisper själv. Gradiums metodik är cirkulär på ett oundvikligt sätt: för att mäta en TTS-modell behöver man en ASR-modell, och ASR-modellens egen felkvot sätter ett golv för hur bra TTS:en kan framstå.

Det är därför en TTS-WER på 0,5 % och en ASR-WER på 7,8 % inte är jämförbara, och därför en TTS-WER under ungefär 1 % bör läsas som "transkriberaren hade inga problem", inte som "talet är nästan perfekt". Mänskliga lyssnare och automatiska bedömare är inte överens, särskilt vad gäller prosodi, som ingen WER fångar.

• Uppgift — text till tal för Phonon 31M; tal till text för Whisper Large v3 Turbo.

Parametrar – 31M exklusive tokenizern för Phonon 31M; 809M för Whisper Large v3 Turbo.

• Språk – endast engelska för Phonon 31M; 99 för Whisper Large v3 Turbo.

• Utdata — 24 kHz monoljud för Phonon 31M; text med tidsstämplar för Whisper Large v3 Turbo.

• Rapporterad noggrannhet – 0,51 % Seed-TTS WER för Phonon 31M, uppmätt av Whisper; 7,83 genomsnittlig engelsk WER för Whisper Large v3 Turbo på Open ASR Leaderboard.

• Licens — Apache 2.0 för Phonon 31M; MIT för Whisper Large v3 Turbo.

Dimensionering av en offline-röstloop

Om målet är en röstassistent som fungerar med nätverket avstängt, består materiallistan av tre modeller, inte två. Taligenkänning, språkgenerering och talsyntes.

Whisper Large v3 Turbo har 809 miljoner parametrar, ungefär 1,6 GB vikter vid 16-bitars precision. GPU-inferens reserverar vanligtvis flera gigabyte arbetsminne för aktiveringar och batchning; kvantiserade GGUF-byggen minskar minnesavtrycket ytterligare till en liten kostnad i noggrannhet. Det är inte en modell i telefonklass i sin Turbo-form, även om mindre Whisper-varianter och destillerade versioner är det.

Phonon 31M är 64,5 MB. Det är ungefär en tjugofemtedel av Whisper Turbos viktfil, och det körs på en CPU-kärna, en iPhone Neural Engine eller en Raspberry Pi.

Språkmodellen i mitten är variabeln. En instruct-modell på 1B till 4B kvantiserad till fyra bitar får plats i ett par gigabyte och är det vanliga valet för en offline-assistent. Hela loopen – Whisper Turbo, en liten instruct-modell, Phonon – hamnar inom ett intervall som en bärbar dator eller en premiumtelefon klarar, med ASR som den tyngsta komponenten.

Den asymmetrin är den praktiska insikten. Den halva av loopen som folk oroar sig för – syntesen, delen som måste låta mänsklig – är nu den billiga halvan. Igenkänningen är den dyra.

Latensbudgeten

Phonons leverantörsuppgifter anger att första ljudet inträffar vid 5 till 7 ms på en MacBook Air M5-kärna och 9 ms på en iPhone 16 Pro, med en genomströmning på mellan 11,6 och 41 gånger realtid beroende på vilket av Gradiums dokument man läser. Whisper Turbos hastighet beror i hög grad på hårdvara och backend: OpenAI beskriver den som ungefär åtta gånger snabbare än large-v3, och benchmarks från communityn med kvantiserade byggen rapporterar tiotals gånger realtid på Apple silicon och mycket långsammare siffror på CPU.

För en konversationsloop dominerar igenkänningssteget. Ett tre sekunder långt yttrande tar några hundra millisekunder att transkribera på en bärbar dators GPU och nära realtid på en svag CPU. Syntessteget är i praktiken omedelbart i jämförelse. Team som optimerar TTS först optimerar fel ände.

Språktäckning är den hårda begränsningen

Whisper hanterar 99 språk. Phonon 31M hanterar ett, och Gradiums kort varnar för att andra språk uttalas fel. En flerspråkig röstassistent kan därför inte byggas från detta par: igenkänning fungerar på japanska, men syntesen gör det inte.

Gradiums svar är Phonon 40M-familjen, som täcker engelska, franska, tyska, spanska och portugisiska. Det är fem språk, inte 99, och 40M-checkpointarna är CC BY-NC 4.0 – inte användbara i en kommersiell produkt utan ett separat avtal. Det flerspråkiga gapet mellan öppen ASR och öppen TTS är ett av de bredaste i stacken, och inget som släppts den här månaden stänger det.

Där de möts i en verklig produkt

Den naturliga tillämpningen är ett verktyg för transkribering och uppspelning: spela in ett möte eller en röstanteckning, transkribera den med Whisper och läs sedan upp en sammanfattning högt med Phonon. Båda körs lokalt, båda har tillåtande licenser och ingen av dem skickar ljud till en tredje part. Ett medicinskt dikteringsverktyg, en fältinspelare, en tillgänglighetsapp för döva och hörselskadade användare eller en offline-leksak för språkinlärning passar alla i samma form.

Den andra applikationen är en röstagent med ett lokalt första pass och en molnbaserad reserv. Whisper transkriberar på enheten; om tillförlitligheten är låg skickas ljudet till en hostad ASR. Språkmodellen tar fram ett svarsutkast; om den behöver en större modell skickas begäran vidare ut. Phonon läser upp resultatet; om enheten är termiskt strypt tar en hostad TTS över. Varje steg har ett lokalt och ett fjärralternativ, och produkten avgör vilket som ska användas per begäran.

Textlagret mellan dem

Whisper producerar en transkription, Phonon konsumerar ett manus, och något måste omvandla det ena till det andra. Det något är en språkmodell, och det är den enda delen av loopen som tjänar på att vara stor.

OrcaRouter har inte någon av dessa modeller — Whisper Large v3 Turbo körs via din egen inferensstack, och Phonon körs på enheten — så ingen av dem finns i vår katalog. Det plattformen täcker är mitten: ett API för fler än 200 språkmodeller till leverantörens listpris med 0 % påslag, automatiskt failover mellan leverantörer, och en routing-DSL som kan skicka en billig modell till de rutinmässiga turerna och en starkare till de svåra. I en offline-first-design är det lagret den del som förblir online.

Vad man faktiskt ska jämföra

Om du väljer en talmodell, jämför Phonon mot andra TTS-system och Whisper Turbo mot andra ASR-system. Om du bygger en produkt, jämför looparna: totalt minne, total latens, totala licenser, totala språk. Enligt det måttet är paret koherent för arbete som endast är på engelska, offline och med tillåtande licens, och inkoherent för allt flerspråkigt eller kommersiellt i 40M-klassen.

Misstaget att undvika är att läsa Phonons 0,51 % WER bredvid Whispers 7,83 % och dra slutsatsen att syntesen har överträffat igenkänningen. Siffrorna kommer från olika processer som mäter olika saker, och en av dem mäts av den andra. Den användbara frågan är inte vilken modell som är bättre. Det är huruvida den loop du kan sätta ihop av öppna delar den här månaden är tillräckligt bra för produkten du har i åtanke — och för engelska, offline, på en bärbar dator har svaret just ändrats.