Ett genererat titelkort för Realtime 1 vs Realtime Venus som kontrasterar ett hostat pris per minut mot en självhostad kostnad per GPU-timme, med ett Apache 2.0-licensmärke, plus en OrcaRouter-logotyp.
Engineering & Research

Realtime 1 vs Realtime Venus: Hyr en röstagent eller äg en för priset av en GPU

Författare

jinhao.song

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Allt i den här jämförelsen hänger på en mening i en licensfil. Realtime Venus är Apache 2.0 – en 9B-modell som du laddar ner, kör på din egen A100 och aldrig behöver betala per minut för igen. MAI Realtime 1, som Microsoft annonserade den 17 november 2026, är ett hostat API för 0,01 USD per ljudminut med en tokenprissatt resonemangsnivå bakom och en Foundry-förhandsversion som inte debiterar något förrän den offentliga förhandsversionen. En av dem har ett pris per anrop. Den andra har ett pris per GPU-timme. Att jämföra dem utifrån prislistor är ett kategorimisstag, vilket är anledningen till att nästan varje genomgång av hostad röst kontra öppna vikter går fel på samma punkt.

Rätt fråga är vad var och en kostar att driva vid din volym och vad var och en faktiskt kan göra — och där vänds jämförelsen: den öppna modellens siffror kommer med en artikel som beskriver testramverket, medan den värdbaserade modellens kommer från en modellsida med en enda noggrannhetssiffra på. Det är den omkastningen som är själva historien.

Vad var och en faktiskt är

Realtime Venus kommer från inclusionAI och dokumenteras i arXiv 2609.13814, tillskrivs Ant Groups Venus Team och Tsinghua University, med artikeln daterad september 2026. Den levereras som två checkpoints: Realtime-Venus-Omni, en 9B audiovisuell modell anpassad från MiniCPM-o 4.5 som kontinuerligt tittar och lyssnar, avgör när den ska tala och sänder ut text och tal på en och samma tidslinje; och Realtime-Venus-Audio, en 9B ljudmodell med enbart ljud på samma strömmande stomme. Båda använder Whisper-Medium som ljudencoder, Qwen3-8B som språkstomme, diskreta S3-taltokens med en strömmande flow-matching-dekoder, en kontext på 40 960 tokens, BF16-vikter samt engelska och kinesiska som sina språk.

MAI Realtime 1 är Microsofts första tal-till-tal-modell, ett hostat system med två nivåer: en snabb samtalsväg för en cent per minut och en resonemangsmotor för 1,00 USD per miljon indatatoken och 5,00 USD per miljon utdatatoken som svårare turer dirigeras in i. Inga arkitekturdetaljer, inget parameterantal, ingen språklista. Dess enda publicerade noggrannhetssiffra är 98,8 % på Big Bench Audio, på dess egen modellsida, utförd av leverantören och inte reproducerad – vilket är spegelbilden av situationen nedan, där ett mindre labb lade sin utvärderingsmetod i en artikel som alla kan läsa.

Vikter — Realtime Venus Apache 2.0, nedladdningsbar, två 9B-checkpoints; MAI Realtime 1 stängd, förhandsåtkomst genom registrering.

• Språk — Realtime Venus engelska och kinesiska, uttryckligen; MAI Realtime 1 ej listad.

• Kontext — Realtime Venus 40 960 tokens; MAI Realtime 1 ej publicerad.

• Hårdvara — Realtime Venus behöver ett A100 för realtidsduplexdemon; MAI Realtime 1 behöver inget annat än en nyckel.

• Modaliteter – Realtime Venus Omni tar emot strömmande video och ljud; MAI Realtime 1 är tal-till-tal.

• Prisstruktur – Realtime Venus per GPU-timme, för alltid; MAI Realtime 1 per ljudminut plus resonemangstoken.

Siffrorna som Realtime Venus publicerade, och vad de betyder

Artikeln är ovanligt specifik om full-duplex-beteende, vilket är den del som de flesta röstmodeller lämnar vag:

• Avbrottsrespons — 75 % av användaravbrott besvarade, på Full-Duplex-Bench v1.5.

• Fortsättning efter backkanaler — 97 %.

• Fortsättning när talet riktas någon annanstans — 88%

• Fortsättning under bakgrundstal — 86 %.

• Författarnas påstående – dessa "överträffar G​emini 3.1 Live och GPT-4o på alla tre fortsättningsmått." Notera jämförelsemålen: G​emini 3.1 Live, som G​oogle nu märker som legacy till förmån för 3.8 Live, och GPT-4o. Ingen av dem är den nuvarande frontlinjen, så vinsten är verklig men ribban är en generation gammal.

När det gäller förståelse leder Realtime-Venus-Audio sin jämförelsegrupp på MMAU med 78,0 %, MMAU-Pro med 63,2 %, Llama Questions med 83,8 % och Speech CMMLU med 67,8 %, och delar den högsta VoiceBench AlpacaEval-poängen på 4,81. Realtime-Venus-Omni är bäst bland utvärderade online-modeller på sex av åtta videobenchmarks, inklusive StreamingBench med 70,2 %, OVO-Bench med 64,7 % och Daily-Omni med 81,3 %.

Alla dessa är författarnas egna utvärderingar i deras egen artikel. De är starkare bevis än en marknadsföringssida – testramverket och jämförelseuppsättningen beskrivs åtminstone – och svagare bevis än en oberoende nämnd. Artificial Analysis listar inte Realtime Venus per den 18 november, så ingen tredje part har kört om dem.

Det enda numret som saknas i artikelns sammanfattning på abstraktnivå är det som spelar roll för en supportagent: en agentisk poäng för slutförande av uppgifter för τ-Voice. Realtime Venus bygger på en annan idé – en <delegate>-mekanism som skickar asynkrona externa uppgifter till en separat Harness-runtime, så att samtalet fortsätter medan arbetet sker i bakgrunden. Det ligger arkitektoniskt nära det som MAI Realtime 1 gör internt med sin resonemangsnivå, och det som G​PT Live 1 gör genom att lämna över till en backend-agent. Tre olika produkter, en konvergent design: prata snabbt, delegera tänkandet. Ingen har publicerat någon direkt jämförelse av delegeringshalvan.

A generated two-column scoreboard titled 'MAI Realtime 1 vs Realtime Venus — the scoreboard'. Left column MAI Realtime 1: licence closed preview only, weights hosted only, price shape $0.01 a minute, languages not published, video no. Right column Realtime Venus: licence Apache 2.0, weights two 9B checkpoints, price shape per GPU hour, languages English and Chinese, video yes, Omni. Footer reads 'Venus figures from its own paper, author evaluations; MAI figures per Microsoft.'

Aritmetiken som ett minutpris döljer

Det är här jämförelsen slutar handla om priser. MAI Realtime 1 till en cent per minut är 0,60 dollar per timme ljud. Ett enda A100 som kör Realtime Venus kostar någonstans i storleksordningen 1,50–2,50 dollar per timme till gängse molnpriser – låt oss säga 2 dollar för argumentets skull, och notera att detta är ett marknadspris, inte något som någon av leverantörerna publicerar.

Brytpunkt – ungefär tre till fyra samtidiga konversationer fyller en A100 vid dessa nivåer. Under det är det billigare att hyra. Över det är det billigare att äga.

• Haken med den hostade sidan – MAI Realtime 1:s resonemangsnivå debiteras per token utöver minuttaxan, så dess verkliga kostnad per timme är över $0.60 och okänd.

Haken på den självhostade sidan är att samtidigheten per A100 för en 9B-duplexmodell inte heller publiceras. Demon kräver ”minst en NVIDIA A100”, vilket säger att den körs men inget om hur många strömmar den upprätthåller.

Så båda sidorna av brytpunkten är uppskattningar. Det som inte är en uppskattning är kurvans form: kostnaden för hostad lösning skalar linjärt och i evighet; kostnaden för egen drift har ett fast golv och böjer sedan av. En pilot med hundra samtal om dagen bör hyra. Ett kontaktcenter som kör tvåhundra samtidiga linjer bör inte göra det, om inte den hostade modellen är väsentligt bättre – och i den här jämförelsen är det den öppna modellen som har noggrannhetspåståenden som åtföljs av ett publicerat testramverk.

Det finns också en operativ asymmetri som aldrig syns i en prislista. Att självhosta en duplex 9B-modell innebär att man ansvarar för GPU-kapacitet, kallstarter, modellinläsning och felmoden där en nod går ner och samtalen avbryts. Hostat innebär att inte ansvara för något av det och att acceptera leverantörens latens, tillgänglighet och utfasningsplan. Team underskattar konsekvent det första och överskattar det andra, vanligtvis eftersom det första är osynligt i ett kalkylark.

Där den hostade modellen inte har något svar med öppna vikter

Tre saker, och de är inte små.

Företagsintegrationer: MAI Realtime 1 är på väg till Dynamics 365 Contact Center och till Dragon Copilot för simuleringsövningar i sjuksköterskeutbildning, medan Agoda och Reservations.ai testar. Det är integrationer mot system som en självhostad modell inte kan nå utan att du bygger anslutningarna själv.

Kompatibilitet: den talar OpenAI Realtime API, så en befintlig röststack behöver en modellsträng i stället för en omskrivning. Realtime Venus levereras som ett Python-paket – AutoModel.from_pretrained, as_duplex(), streaming_prefill() och streaming_generate() per sekund, FFmpeg och CUDA på värden. Det är ett riktigt ingenjörsprojekt.

Och transkriptionsbredd: Microsofts medföljande tillkännagivande, Dragon Copilot Transcribe på MAI Transcribe 2, täcker klinisk diktering i en skala som inget i Venus-artikeln behandlar – 10 miljoner patientmöten i månaden, halva den flerspråkiga felfrekvensen, enligt Microsofts egen redogörelse. Om din produkt är klinisk är det ekosystemet som är argumentet, inte minutpriset.

Där de öppna vikterna inte har något hostat svar

Video. Realtime-Venus-Omni är en strömmande audiovisuell modell – den tittar och lyssnar, och Omni-riktmärkena är videoriktmärken. MAI Realtime 1 är tal. Om interaktionen involverar en kamera, en skärmdelning eller en patient som gestikulerar mot något, är jämförelsen inte i närheten, eftersom den värdbaserade modellen inte ens försöker sig på det.

Minnesfunktion för långa videor också: Venus-kortet uppges klara minne över lång video utan extra träning, via en use_memory()-växel. Inget i Microsofts tillkännagivande tar upp minne över en session.

Och licensen. Apache 2.0 innebär att du kan finjustera den, bädda in den i en produkt, köra den i en jurisdiktion där Microsoft inte har någon region och behålla ljudet på din egen hårdvara. För en klinisk driftsättning eller driftsättning inom offentlig sektor där data inte får lämna byggnaden är det inte en preferens – det är kravet, och ingen rabatt per minut kan ersätta det.

A screenshot of the Hugging Face model card for inclusionAI/Realtime-Venus captured 18 November 2026, showing the Any-to-Any pipeline tag, Transformers, ONNX and Safetensors badges, English and Chinese language tags, and the multimodal, audio, video, streaming and full-duplex tags.

Hybriden som de flesta team faktiskt borde bygga

Den konvergens som noterades tidigare är det praktiska svaret. Alla tre produkterna – Realtime Venus, MAI Realtime 1, G​PT Live 1 – skiljer konversationen från arbetet: Venus genom <delegate> och en Harness runtime, Microsoft genom en intern resonemangsnivå, O​penAI genom en explicit ansluten backend-agent. I samtliga fall är det svåra en andra modell som gör tänkandet, och i samtliga fall är det i det lagret som kostnad och latens koncentreras.

Vilket innebär att valet mellan dem egentligen är ett val om frontend, och backend kan vara detsamma oavsett. OrcaRouter är byggt för det andra lagret: 200+ modeller på en enda nyckel till leverantörens listpris med 0 % påslag, så oavsett vilken frontend du väljer är resonemangsmodellerna bakom den utbytbara och en leverantörsprisändring slår igenom samma dag. Automatisk failover är det som gör en delegerad uppgift till något som är säkert att köra i produktion — ett bakgrundsanrop som misslyckas tyst är ett löfte till en anropare som aldrig infrias, och ett routat omförsök över leverantörer är skillnaden mellan en uppgift som slutförs och en som tyst inte gör det. Routnings-DSL:en är hur delegeringspolicyn blir en regel: vilka avsikter som eskalerar, till vilken modell, med vilken budget.

Ingen av dessa två röstmodeller finns i vår katalog – Realtime Venus är Apache 2.0-vikter som du hostar själv, och MAI Realtime 1 är MAI Labs och Foundrys förhandsversion med begränsad åtkomst. Det vi dirigerar är allt som de delegerar vidare.

A screenshot of the OrcaRouter models catalogue captured 18 November 2026, showing the header line '226 models · 17 providers · one API key, one bill' and the model grid with search and sort controls.

Att välja, konkret

Börja med Realtime Venus om något av följande stämmer: data inte kan lämna din infrastruktur, interaktionen involverar video, du specifikt behöver engelska och kinesiska och inget annat, du redan har GPU-kapacitet, eller din volym är tillräckligt hög för att en linjär räkning per minut ska vara fel form. Acceptera i gengäld att du kör en forskningsklassad stack med ett Python-API, en artikel som dokumentation och ingen oberoende benchmark som bekräftar författarnas siffror.

Börja med MAI Realtime 1 om interaktionen enbart är tal, volymen är måttlig, integrationen redan har OpenAI-Realtime-form och en cent per minut är siffran som gör projektet överhuvudtaget genomförbart. Acceptera i gengäld att du nästan inte kan mäta något av det: en av leverantören rapporterad noggrannhetssiffra, en P50-latens utan fördelning, inget τ-Voice-resultat, ingen språklista och en två minuter lång icke-kommersiell demo som uppgav sig vara otillgänglig när vi kontrollerade.

Och håll ett öga på det som båda i tysthet satsar på. Realtime Venus, MAI Realtime 1 och G​PT Live 1 har alla kommit fram till att en röstmodell inte bör tänka hårt medan någon väntar. Skillnaden mellan dem är bara var tänkandet äger rum. Den som först publicerar en andel slutförda uppgifter för den delegerade hälften avgör en duell som minutpriserna aldrig kunde avgöra.