Een gegenereerde titelkaart voor Realtime 1 vs Realtime Venus, waarin een gehoste prijs per minuut wordt afgezet tegen een self-hosted kostprijs per GPU-uur, met een Apache 2.0-licentiemarkering en een OrcaRouter-logo.
Engineering & Research

Realtime 1 vs Realtime Venus: Huur een spraakagent of bezit er zelf een voor de prijs van een GPU

Auteur

jinhao.song

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Alles aan deze vergelijking draait om één zin in een licentiebestand. Realtime Venus is Apache 2.0 — een 9B-model dat je downloadt, op je eigen A100 draait en waarvoor je nooit meer per minuut betaalt. MAI Realtime 1, op 17 november 2026 aangekondigd door Microsoft, is een gehoste API tegen $0,01 per audiominuut, met daarachter een reasoning-tier met tokenprijzen en een Foundry-preview die niets factureert tot de publieke preview. Een van beide heeft een prijs per aanroep. De andere heeft een prijs per GPU-uur. Ze vergelijken op prijslijsten is een categoriefout, en daarom gaat bijna elk artikel over gehoste spraak versus open weights op dezelfde plek mis.

De juiste vraag is wat elk ervan kost om op jouw volume te draaien en wat elk ervan daadwerkelijk kan — en daar keert de vergelijking om: de cijfers van het open model komen met een paper waarin de harness wordt beschreven, terwijl die van het gehoste model van een modelpagina komen met één nauwkeurigheidscijfer erop. Die omkering is het verhaal.

Wat elk ervan eigenlijk is

Realtime Venus is afkomstig van inclusionAI en is gedocumenteerd in arXiv 2609.13814, toegeschreven aan het Venus Team van Ant Group en Tsinghua University, met het artikel gedateerd september 2026. Het wordt geleverd als twee checkpoints: Realtime-Venus-Omni, een 9B audio-visueel model dat is aangepast van MiniCPM-o 4.5, continu kijkt en luistert, beslist wanneer het moet spreken en tekst en spraak op één tijdlijn uitzendt; en Realtime-Venus-Audio, een 9B-model dat alleen audio gebruikt op dezelfde streaming-backbone. Beide gebruiken Whisper-Medium als audio-encoder, Qwen3-8B als de taalbackbone, discrete S3-spraaktokens met een streaming flow-matching-decoder, een context van 40.960 tokens, BF16-gewichten en Engels en Chinees als hun talen.

MAI Realtime 1 is Microsofts eerste spraak-naar-spraakmodel, een gehost systeem met twee niveaus: een snel conversatiepad voor een cent per minuut, en een redeneerengine tegen $1,00 per miljoen invoertokens en $5,00 per miljoen uitvoertokens, waar moeilijkere beurten naartoe worden gerouteerd. Geen architectuurdetails, geen parameteraantal, geen talenlijst. Het enige gepubliceerde nauwkeurigheidscijfer is 98,8% op Big Bench Audio, op zijn eigen modelpagina, door de leverancier uitgevoerd en niet gereproduceerd — wat het spiegelbeeld is van de situatie hieronder, waar een kleiner lab zijn evaluatiemethode in een paper heeft gezet die iedereen kan lezen.

• Gewichten — Realtime Venus Apache 2.0, downloadbaar, twee 9B-checkpoints; MAI Realtime 1 gesloten, previewtoegang via registratie.

• Talen — Realtime Venus Engels en Chinees, expliciet; MAI Realtime 1 niet vermeld.

• Context — Realtime Venus 40.960 tokens; MAI Realtime 1 ongepubliceerd.

• Hardware — Realtime Venus heeft een A100 nodig voor de realtime duplexdemo; MAI Realtime 1 heeft niets anders nodig dan een key.

• Modaliteiten — Realtime Venus Omni verwerkt streamingvideo en -audio; MAI Realtime 1 is spraak-naar-spraak.

• Prijsstructuur — Realtime Venus per GPU-uur, voor altijd; MAI Realtime 1 per audiominuut plus reasoning-tokens.

De cijfers die Realtime Venus publiceerde, en wat ze betekenen

De paper is ongewoon specifiek over full-duplexgedrag, het onderdeel dat de meeste spraakmodellen vaag laten:

• Reactie op onderbrekingen — 75% van de onderbrekingen door gebruikers beantwoord, op Full-Duplex-Bench v1.5.

• Voortzetting na backchannels — 97%.

• Doorgaan wanneer de spraak elders naartoe is gericht — 88%.

• Vervolg bij achtergrondspraak — 86%.

• De bewering van de auteurs — dat deze "G​emini 3.1 Live en GPT-4o overtreffen op alle drie de vervolgmetrics." Let op de vergelijkingsdoelen: G​emini 3.1 Live, dat G​oogle nu als legacy aanmerkt ten gunste van 3.8 Live, en GPT-4o. Geen van beide is de huidige frontier, dus de overwinning is echt, maar de lat ligt een generatie lager.

Op het gebied van begrip leidt Realtime-Venus-Audio zijn vergelijkingsset op MMAU met 78,0%, MMAU-Pro met 63,2%, Llama Questions met 83,8% en Speech CMMLU met 67,8%, en evenaart het de hoogste VoiceBench AlpacaEval-score met 4,81. Realtime-Venus-Omni is het beste onder de geëvalueerde online modellen op zes van de acht videobenchmarks, waaronder StreamingBench met 70,2%, OVO-Bench met 64,7% en Daily-Omni met 81,3%.

Die zijn allemaal de eigen evaluaties van de auteurs in hun eigen paper. Ze vormen sterker bewijs dan een marketingpagina — de harness en de vergelijkingsset worden tenminste beschreven — en zwakker bewijs dan een onafhankelijke board. Artificial Analysis heeft Realtime Venus per 18 november niet in zijn aanbod, dus geen enkele derde partij heeft ze opnieuw uitgevoerd.

Het ene getal dat ontbreekt in de samenvatting op abstractniveau van het paper, is juist het getal dat ertoe doet voor een supportmedewerker: een agentische taakvoltooiingsscore van τ-Voice. Realtime Venus is gebouwd rond een ander idee — een <delegate>-mechanisme dat asynchrone externe taken naar een aparte Harness-runtime stuurt, zodat het gesprek blijft doorlopen terwijl het werk op de achtergrond gebeurt. Dat ligt architectonisch dicht bij wat MAI Realtime 1 intern doet met zijn reasoninglaag, en bij wat G​PT Live 1 doet door over te dragen aan een backend-agent. Drie verschillende producten, één convergent ontwerp: snel praten, het denkwerk delegeren. Niemand heeft een head-to-head gepubliceerd over de delegatiekant.

A generated two-column scoreboard titled 'MAI Realtime 1 vs Realtime Venus — the scoreboard'. Left column MAI Realtime 1: licence closed preview only, weights hosted only, price shape $0.01 a minute, languages not published, video no. Right column Realtime Venus: licence Apache 2.0, weights two 9B checkpoints, price shape per GPU hour, languages English and Chinese, video yes, Omni. Footer reads 'Venus figures from its own paper, author evaluations; MAI figures per Microsoft.'

De rekenkunde die een prijs per minuut verbergt

Hier gaat de vergelijking niet meer alleen over tarieven. MAI Realtime 1 kost bij een cent per minuut $0,60 per uur audio. Een enkele A100 die Realtime Venus draait, kost ergens in de orde van $1,50 tot $2,50 per uur bij gangbare cloudprijzen — laten we voor het gemak $2 zeggen, en merk op dat dit een markttarief is, niet iets dat een van beide leveranciers publiceert.

• Break-even — bij die snelheden vullen ongeveer drie tot vier gelijktijdige gesprekken één A100. Daaronder is huren goedkoper. Daarboven is het in eigendom hebben goedkoper.

• De addertje onder het gras aan de gehoste kant — de reasoning-tier van MAI Realtime 1 wordt per token gefactureerd bovenop het minuuttarief, dus de werkelijke kosten per uur liggen boven $0.60 en zijn onbekend.

Het addertje onder het gras aan de self-hosted kant — de concurrency per A100 voor een 9B-duplexmodel is evenmin gepubliceerd. De demo vereist "ten minste één NVIDIA A100", wat alleen zegt dat het draait en niets over hoeveel streams het kan volhouden.

Dus beide kanten van het break-evenpunt zijn schattingen. Wat geen schatting is, is de vorm van de curve: de kosten van hosted schalen lineair en voor altijd; de kosten van self-hosted hebben een vaste ondergrens en buigen daarna af. Een pilot van honderd gesprekken per dag zou moeten huren. Een contactcenter met tweehonderd gelijktijdige lijnen zou dat niet moeten doen, tenzij het hosted model wezenlijk beter is — en in deze vergelijking is het open model het model waarvan de nauwkeurigheidsclaims met een gepubliceerde harness komen.

Er is ook een operationele asymmetrie die nooit op een tariefkaart staat. Een duplex 9B-model zelf hosten betekent dat je eigenaar bent van GPU-capaciteit, koude starts, het laden van modellen en de faalmodus waarbij een node uitvalt en gesprekken wegvallen. Gehost betekent dat je niets daarvan bezit en de latency, beschikbaarheid en het uitfaseringsschema van een leverancier accepteert. Teams onderschatten stelselmatig het eerste en overschatten het tweede, meestal omdat het eerste onzichtbaar is in een spreadsheet.

Waar het gehoste model geen open-weight antwoord heeft

Drie dingen, en ze zijn niet klein.

Enterprise-integraties: MAI Realtime 1 komt naar Dynamics 365 Contact Center en naar Dragon Copilot voor simulaties voor verpleegkundige training, waarbij Agoda en Reservations.ai het testen. Dat zijn integraties met systemen die een zelfgehost model niet kan bereiken zonder dat je zelf de connectors bouwt.

Compatibiliteit: het spreekt de OpenAI Realtime API, dus een bestaande spraakstack heeft een modelstring nodig in plaats van een herschrijving. Realtime Venus wordt geleverd als een Python-pakket — AutoModel.from_pretrained, as_duplex(), streaming_prefill() en streaming_generate() per seconde, FFmpeg en CUDA op de host. Dat is een echt engineeringproject.

{{1}}En de breedte van transcriptie:{{/1}} Microsofts bijbehorende aankondiging, Dragon Copilot Transcribe op MAI Transcribe 2, dekt klinische dictatie op een schaal die niets in het Venus paper behandelt — 10 miljoen patiëntcontacten per maand, de helft van het meertalige foutpercentage, volgens Microsoft zelf. {{2}}Als je product klinisch is, is dat ecosysteem het argument, niet het tarief per minuut.{{/2}}

Waar de open weights geen gehost antwoord hebben

Video. Realtime-Venus-Omni is een streaming audiovisueel model — het kijkt en luistert, en de Omni-benchmarks zijn videobenchmarks. MAI Realtime 1 is spraak. Als de interactie een camera, een schermdeling of een patiënt die ergens naar gebaart omvat, is de vergelijking verre van eerlijk, omdat het gehoste model dat niet probeert.

Ook geheugen voor lange video's: de Venus-kaart claimt geheugen over lange video zonder extra training, via een use_memory()-schakelaar. Niets in Microsofts aankondiging gaat in op geheugen gedurende een sessie.

En de licentie. Apache 2.0 betekent dat je het kunt fine-tunen, het in een product kunt verwerken, het kunt draaien in een rechtsgebied waarvoor Microsoft geen regio heeft, en audio op je eigen hardware kunt houden. Voor een klinische of publieke-sector-implementatie waar de data het gebouw niet mogen verlaten, is dat geen voorkeur — het is een vereiste, en geen enkele korting per minuut kan daarvoor in de plaats komen.

A screenshot of the Hugging Face model card for inclusionAI/Realtime-Venus captured 18 November 2026, showing the Any-to-Any pipeline tag, Transformers, ONNX and Safetensors badges, English and Chinese language tags, and the multimodal, audio, video, streaming and full-duplex tags.

De hybride die de meeste teams eigenlijk zouden moeten bouwen

De eerder genoemde convergentie is het praktische antwoord. Alle drie deze producten — Realtime Venus, MAI Realtime 1, G​PT Live 1 — scheiden het gesprek van het werk: Venus via <delegate> en een Harness-runtime, Microsoft via een interne redeneerlaag, O​penAI via een expliciet gekoppelde backend-agent. In elk geval is het lastigste onderdeel een tweede model dat het denkwerk doet, en in elk geval is die laag waar kosten en latentie zich concentreren.

Wat betekent dat de keuze daartussen eigenlijk een keuze over de front-end is, en de backend kan in beide gevallen hetzelfde zijn. OrcaRouter is gebouwd voor die tweede laag: 200+ modellen op één sleutel tegen de lijstprijs van de provider met 0% opslag, dus welke front-end je ook kiest, de redeneermodellen erachter zijn uitwisselbaar en een prijswijziging van een leverancier wordt dezelfde dag doorgevoerd. Automatische failover is wat een gedelegeerde taak veilig in productie laat draaien — een achtergrondaanroep die stil faalt, is een belofte aan een aanroeper die nooit wordt nagekomen, en een gerouteerde nieuwe poging over providers heen is het verschil tussen een taak die wordt voltooid en een die stilletjes niet wordt voltooid. De routing-DSL is hoe het delegatiebeleid een regel wordt: welke intenties escaleren, naar welk model, met welk budget.

Geen van deze twee spraakmodellen staat in onze catalogus — Realtime Venus zijn Apache 2.0-gewichten die je zelf host, en MAI Realtime 1 is van MAI Labs en de limited-access preview van Foundry. Wat wij routeren, is alles waaraan zij delegeren.

A screenshot of the OrcaRouter models catalogue captured 18 November 2026, showing the header line '226 models · 17 providers · one API key, one bill' and the model grid with search and sort controls.

Concreet kiezen

Begin met Realtime Venus als een van deze dingen geldt: de data mag je infrastructuur niet verlaten, de interactie omvat video, je hebt specifiek Engels en Chinees nodig en niets anders, je hebt al GPU-capaciteit, of je volume is hoog genoeg dat een lineaire facturering per minuut de verkeerde vorm heeft. Accepteer in ruil daarvoor dat je een stack van onderzoeksniveau draait met een Python-API, een paper als documentatie en geen onafhankelijke benchmark om de cijfers van de auteurs te bevestigen.

Begin met MAI Realtime 1 als de interactie uitsluitend spraak is, het volume bescheiden is, de integratie al OpenAI-Realtime-vormig is, en een cent per minuut het getal is dat het project überhaupt levensvatbaar maakt. Accepteer daarvoor in ruil dat je er bijna niets van kunt meten: één door de leverancier opgegeven nauwkeurigheidscijfer, een P50-latentie zonder verdeling, geen τ-Voice-score, geen talenlijst, en een tweeminutendemo voor niet-commercieel gebruik die aangaf zelf niet beschikbaar te zijn toen we keken.

En let op het punt waarop beide partijen stilletjes wedden. Realtime Venus, MAI Realtime 1 en G​PT Live 1 zijn allemaal tot de conclusie gekomen dat een spraakmodel niet hard zou moeten nadenken terwijl iemand wacht. Het verschil tussen hen zit alleen in waar het denkwerk naartoe gaat. Wie als eerste een taakvoltooiingspercentage publiceert voor de gedelegeerde helft, beslecht een confrontatie die de tarieven per minuut nooit zouden kunnen beslechten.