Phonon vs Qwen Audio 3.0 TTS: 7 ms på din bärbara dator eller 200 ms i molnet

En supportagent avslutar en mening och röstassistenten måste svara. Med Phonon 31M, Gradiums 64 MB stora enhetsmodell som släpptes den 20 oktober 2026, kan det första ljudsamplet anlända cirka 7 millisekunder efter att texten är klar, eftersom ingenting lämnar maskinen. Med Qwen Audio 3.0 TTS, Alibabas hostade system från juli 2026, dokumenteras det första paketet till under 200 millisekunder – och den siffran börjar räknas först efter att din begäran har korsat nätverket till ett datacenter i Peking eller Singapore.

Det gapet är hela jämförelsen i miniatyr, men det är inte hela beslutet. Qwen Audio 3.0 TTS talar 16 språk och 20 kinesiska dialekter vid 48 kHz, tar emot känslo- och icke-verbala taggar inline och klonar en röst från ett referensklipp. Phonon 31M talar engelska vid 24 kHz i 37 fasta röster och körs på en Raspberry Pi. Att välja mellan dem är att välja vilken typ av system du bygger, inte vilken modell som låter trevligare i en demo.

Vad var och en faktiskt är

Phonon 31M är en checkpoint i Gradiums familj med öppna vikter. Den har 31 miljoner parametrar exklusive ljudtokeniseraren, levereras som en q8 GGUF på 64,5 MB, ger 24 kHz mono och är licensierad under Apache 2.0 – den enda checkpointen i familjen som är gratis för kommersiellt bruk. Systermodellerna Phonon 40M täcker fem språk men ligger under CC BY-NC 4.0, så de är inte ett alternativ för en levererad produkt utan ett separat avtal. Körmiljön är i Rust, utan PyTorch vid inferens, och det finns byggen för CPU, Core ML, Snapdragon NPU:er och WebAssembly.

Qwen Audio 3.0 TTS är inte en nedladdningsbar modell. Alibabas Qwen-team tillkännagav den 20 juli 2026 på WAIC i två API-nivåer: Flash, optimerad för realtidsinteraktion, och Plus, optimerad för kvalitet. Båda nås via Alibaba Cloud Model Studio. Dokumentationen för Flash-slutpunkten anger en latens för första paketet på under 200 ms, en gräns på 180 förfrågningar per minut och ett pris på 1 CNY per 10 000 tecken i Peking, eller 1,12413 CNY i Singapore. Det finns inga vikter, ingen lokal runtime och inget offlineläge.

Latensskillnaden är inte 193 millisekunder.

Att subtrahera 7 från 200 ger ett tal som underskattar gapet och överdriver dess betydelse, beroende på vad du bygger. För ett röstgränssnitt med turordning är den totala budgeten ungefär 800 ms innan samtalet börjar kännas fel. Ett TTS-anrop i molnet lägger sina 200 ms efter en nätverksrundtur som kan vara 20 ms på en bra trådbunden anslutning och 150 ms på mobil. Lägg till TLS-uppkoppling på en kall anslutning, ljudbuffring och den svanslatens som en gräns på 180 RPM medför under belastning, så är p95-upplevelsen betydligt sämre än rubriksiffran.

Den lokala vägen har en annan form. Phonons egen README listar 5 ms tid till första byte på en MacBook Air M5-kärna och 9 ms på iPhone 16 Pro Neural Engine. Det finns ingen nätverkssvans, ingen hastighetsbegränsning och ingen leverantör som har en dålig dag. Det du ger upp är elasticiteten: en telefon som termiskt stryper kör Phonon långsammare, och en webbläsarflik som konkurrerar med ett videosamtal får mindre CPU. Leverantörens siffror för Raspberry Pi 5 – 68 ms och 2,3 gånger realtid i README, 38 ms och 3,7 gånger i releasebloggen – visar hur långt den golvnivån kan sjunka på svag hårdvara.

Det är också här som siffrorna förtjänar en brasklapp. Gradiums lanseringsblogg och dess runtime-README är oense om genomströmningen med mer än en faktor två för samma enhet, och ingendera har reproducerats oberoende. Betrakta 7 ms som en storleksordning, inte som en specifikation.

Språk och röster: bredd kontra en fast rollbesättning

Qwen Audio 3.0 TTS täcker 16 språk, inklusive japanska, koreanska, arabiska, vietnamesiska, malajiska och filipino, samt 20 kinesiska dialekter. Det stöder röstkloning från referensljud och kan producera ett annat språk än det som finns i referensklipet, vilket är funktionen som gör lokaliseringspipelines intressanta. Utdata är 48 kHz, och plattformen tillåter upp till tre minuters ljud per syntes.

Phonon 31M är engelskt-only, och Gradiums modellkort är tydligt om det: andra språk uttalas fel. Den har 37 inbyggda röster, med fler i en separat röstkatalog och stöd för anpassade röster i .safetensors-format. Den flerspråkiga checkpoints-modellen Phonon 40M når fem språk, men dess icke-kommersiella licens utesluter den från de flesta produktbeslut.

• Språk – endast engelska för Phonon 31M; 16 språk plus 20 kinesiska dialekter för Qwen Audio 3.0 TTS.

• Samplingsfrekvens — 24 kHz mono för Phonon 31M; 48 kHz för Qwen Audio 3.0 TTS.

Röstkällor – 37 inbyggda plus en katalog för anpassade röster för Phonon 31M; referensljudskloning för Qwen Audio 3.0 TTS.

• Maximal yttrandelängd – inte dokumenterad för Phonon 31M; upp till tre minuter per syntes för Qwen Audio 3.0 TTS.

• Var det körs – CPU, NPU, webbläsare eller telefon för Phonon 31M; Alibaba Cloud Model Studio endast för Qwen Audio 3.0 TTS.

• Licens — Apache 2.0 för Phonon 31M; kommersiella API-villkor för Qwen Audio 3.0 TTS.

Kontroll: taggar och kloning kontra en fast rollbesättning

Qwens berättelse om uttrycksfullhet bygger på inline-kontroll. Modellen accepterar finmaskiga icke-verbala taggar – andningar, skratt, suckar – och stilinstruktioner i naturligt språk, så ett manus kan ange inte bara vad som sägs utan också hur. Lanseringstäckningen lyfte fram skiftet från "kan tala" till "kan framföra", och Plus-nivån rankades först på Artificial Analysis Speech Arena med en Elo på 1 237, före Gemini 3.1 Flash TTS och ElevenLabs v3. Det är en oberoende topplista snarare än en leverantörstabell, även om bidraget lämnades in av Alibaba och Elo på en kurerad arena belönar stil lika mycket som begriplighet.

Phonons kontrollgränssnitt är avsiktligt snävt. Du väljer en röst, skickar text och får ljud. Det finns inga känslotaggar och ingen stilprompt. För ett gränssnitt som läser upp korta, förutsägbara yttranden – aviseringar, navigering, formulärbekräftelse – räcker det, och avsaknaden av ett stilskikt är en anledning till att modellen har 31 miljoner parametrar i stället för miljarder. För berättande, reklam eller karaktärsarbete är det diskvalificerande.

Inget av systemen löser samtyckesproblemet. Qwens kloning accepterar ett referensklipp; Phonon accepterar anpassade röstfiler. Båda lämnar det till integratören att fastställa att talaren samtyckte.

Vad det kostar vid volym

Phonon 31M har inget pris per tecken. Du betalar för hårdvara som du redan äger och för elen att köra en modell som genererar 26 till 41 gånger snabbare än realtid på en laptopkärna. I liten skala är det i praktiken gratis; i stor skala blir det en batteri- och termisk budget för mobila enheter, vilket är en verklig kostnad men en annan sådan.

Qwen Audio 3.0 TTS Flash fakturerar 1 CNY per 10 000 tecken i Peking. Tio miljoner tecken i månaden är 1 000 CNY, cirka 140 US$ vid en kurs på omkring sju yuan per dollar – mindre än vad de flesta team lägger på loggning. Siffran som spelar roll är inte månadsräkningen utan dess form: kostnaden skalar med användningen, latensen hyrs, och modellen kan prissättas på nytt eller avvecklas av någon annan. Det är avvägningen för 48 kHz och sexton språk.

OrcaRouter är inte värd för någon av dessa modeller, och ingenting här bör antyda något annat: Phonon körs på din enhet, och Qwen Audio 3.0 TTS nås via Alibabas eget API. Där dirigering faktiskt gör nytta är ett lager upp. En röstassistents svarstext kommer vanligtvis från en språkmodell, och den modellen är en handelsvara som du kan flytta.En nyckel täcker fler än 200 modeller till leverantörens listpris med 0 % påslag, så en prissänkning eller en ny billig modell går att använda samma dag, och automatisk redundansväxling håller textdelen av loopen vid liv när en enskild leverantör försämras. Taltjänstlagret kan stanna precis där du placerade det.

Där var och en vinner

Välj Phonon 31M när ljudet måste genereras på enheten, när språket är engelska, när en fast röstuppsättning är acceptabel och när en nedladdning på 64 MB och en Apache 2.0-licens är värda mer än stilistisk variation. Offlineassistenter, tillgänglighetsverktyg, spel, kiosker och webbläsarfunktioner är dess naturliga hemvist.

Välj Qwen Audio 3.0 TTS när du behöver andra språk än engelska, 48 kHz-utdata, känslomässigt uttryck, röstkloning eller yttranden som är längre än en eller två meningar – och när ett nätverksberoende är acceptabelt. Kundvända röstagenter på flera marknader, dubbning och inläst innehåll är dess naturliga hemvist.

Den hybrid som de flesta team till slut kommer att bygga

De två systemen är inte ömsesidigt uteslutande, och den intressanta arkitekturen använder båda. Kör Phonon 31M som lokalt standardval för korta, förutsägbara engelska svar – de där latensen märks. Fall tillbaka till Qwen Audio 3.0 TTS när svaret är långt, när användaren har bytt språk, eller när enheten inte klarar att köra den lokala modellen. Växlingen är ett policybeslut, inte en omskrivning, eftersom båda tar text och returnerar ljud.

Det som får den arkitekturen att fungera är att reservalternativet inte innebär en andra klassens upplevelse. Qwens 48 kHz-utdata och stiltaggar är bättre än Phonons på nästan alla punkter utom latens och integritet. Anledningen till att ha lokalt som standard är inte kvalitet; det är att 7 millisekunder slår en nätverksrundtur när användaren väntar.

Gradiums lansering är tre dagar gammal och dess benchmarks körs fortfarande av leverantören. Alibabas modell är tre månader gammal, har en oberoende arenaplacering och prissätts per tecken. Valet mellan dem kommer inte att avgöras av en WER-tabell. Det kommer att avgöras av huruvida din produkt kan tolerera ett datacenter i loopen.