Una title card generata per Realtime 1 vs Realtime Venus che contrappone un prezzo hosted al minuto a un costo self-hosted per GPU-ora, con un contrassegno di licenza Apache 2.0, più un logo OrcaRouter.
Engineering & Research

Realtime 1 vs Realtime Venus: noleggia un agente vocale o possiedine uno al costo di una GPU

Autore

jinhao.song

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Tutto in questo confronto si riduce a una frase su un file di licenza. Realtime Venus è Apache 2.0 — un modello 9B che scarichi, esegui sulla tua A100 e per cui non paghi mai più al minuto. MAI Realtime 1, annunciato da Microsoft il 17 novembre 2026, è un'API ospitata a $0,01 per minuto audio, con dietro un livello di reasoning con prezzo a token e un'anteprima Foundry che non addebita nulla fino all'anteprima pubblica. Una di queste ha un prezzo per chiamata. L'altra ha un prezzo per GPU-ora. Confrontarle sui listini tariffari è un errore di categoria, ed è per questo che quasi ogni analisi del confronto tra voce ospitata e pesi aperti sbaglia nello stesso punto.

La domanda giusta è quanto costa far funzionare ciascuno ai tuoi volumi e che cosa ciascuno può realmente fare — e qui il confronto si inverte: i numeri del modello aperto arrivano con un articolo che descrive l'harness, mentre quelli del modello ospitato provengono da una scheda del modello con un unico valore di accuratezza. È questa inversione il punto.

Che cosa ciascuno è in realtà

Realtime Venus proviene da inclusionAI ed è documentato su arXiv 2609.13814, attribuito al Venus Team di Ant Group e alla Tsinghua University, con il paper datato settembre 2026. È disponibile in due checkpoint: Realtime-Venus-Omni, un modello audio-visivo da 9B adattato da MiniCPM-o 4.5 che osserva e ascolta continuamente, decide quando parlare ed emette testo e parlato su un'unica timeline; e Realtime-Venus-Audio, un modello solo audio da 9B sulla stessa backbone di streaming. Entrambi usano Whisper-Medium come encoder audio, Qwen3-8B come backbone linguistico, token vocali discreti S3 con un decoder flow-matching in streaming, un contesto di 40.960 token, pesi BF16 e inglese e cinese come proprie lingue.

MAI Realtime 1 è il primo modello speech-to-speech di Microsoft, un sistema ospitato a due livelli: un percorso conversazionale veloce a un centesimo al minuto e un motore di ragionamento a 1,00 $ per milione di token di input e 5,00 $ per milione di token di output, in cui vengono instradati i turni più difficili. Nessun dettaglio sull'architettura, nessun numero di parametri, nessun elenco di lingue. Il suo unico dato di accuratezza pubblicato è 98,8% su Big Bench Audio, nella sua pagina del modello, eseguito dal fornitore e non riprodotto — che è l'immagine speculare della situazione qui sotto, in cui un laboratorio più piccolo ha inserito il proprio metodo di valutazione in un articolo che chiunque può leggere.

• Pesi — Realtime Venus Apache 2.0, scaricabili, due checkpoint da 9B; MAI Realtime 1 chiuso, accesso in anteprima tramite registrazione.

• Lingue — Realtime Venus inglese e cinese, esplicitamente; MAI Realtime 1 non elencato.

• Contesto — Realtime Venus 40.960 token; MAI Realtime 1 non pubblicato.

Hardware — Realtime Venus richiede una A100 per la demo duplex in tempo reale; MAI Realtime 1 non ha bisogno di altro che di una chiave.

• Modalità — Realtime Venus Omni riceve video e audio in streaming; MAI Realtime 1 è speech-to-speech.

• Struttura dei prezzi — Realtime Venus per ora GPU, per sempre; MAI Realtime 1 per minuto audio più token di ragionamento.

I numeri pubblicati da Realtime Venus, e cosa significano

Il documento è insolitamente preciso sul comportamento full-duplex, che è la parte che la maggior parte dei modelli vocali lascia vaga:

• Risposta alle interruzioni — 75% delle interruzioni dell'utente ha ottenuto risposta, su Full-Duplex-Bench v1.5.

• Continuazione dopo i backchannel — 97%.

• Continuazione quando il discorso è rivolto altrove — 88%.

• Continuazione in presenza di parlato in sottofondo — 86%.

• L'affermazione degli autori — questi «superano G​emini 3.1 Live e GPT-4o su tutte e tre le metriche di continuazione». Nota i termini di confronto: G​emini 3.1 Live, che G​oogle ora contrassegna come legacy in favore di 3.8 Live, e GPT-4o. Nessuno dei due è la frontiera attuale, quindi la vittoria è reale ma l'asticella è vecchia di una generazione.

Per quanto riguarda la comprensione, Realtime-Venus-Audio è in testa nel proprio gruppo di confronto su MMAU con 78,0%, MMAU-Pro con 63,2%, Llama Questions con 83,8% e Speech CMMLU con 67,8%, ed eguaglia il miglior punteggio VoiceBench AlpacaEval con 4,81. Realtime-Venus-Omni è il migliore tra i modelli online valutati su sei degli otto benchmark video, inclusi StreamingBench con 70,2%, OVO-Bench con 64,7% e Daily-Omni con 81,3%.

Tutte queste sono valutazioni degli autori stessi nel loro articolo. Sono prove più solide di una pagina di marketing — l'harness e l'insieme di confronto sono almeno descritti — e più deboli di una commissione indipendente. Artificial Analysis non riporta Realtime Venus al 18 novembre, quindi nessuna terza parte le ha rieseguite.

L'unico numero che manca dal riepilogo a livello di abstract del paper è quello che conta per un agente di supporto: un punteggio agentico di completamento delle attività τ-Voice. Realtime Venus è costruito attorno a un'idea diversa — un meccanismo <delegate> che spinge attività esterne asincrone verso un runtime Harness separato, così la conversazione continua mentre il lavoro avviene in background. Architetturalmente, è vicino a ciò che MAI Realtime 1 fa internamente con il suo livello di ragionamento, e a ciò che G​PT Live 1 fa passando a un agente backend. Tre prodotti diversi, un design convergente: parlare veloce, delegare il pensiero. Nessuno ha pubblicato un confronto testa a testa sulla metà della delega.

A generated two-column scoreboard titled 'MAI Realtime 1 vs Realtime Venus — the scoreboard'. Left column MAI Realtime 1: licence closed preview only, weights hosted only, price shape $0.01 a minute, languages not published, video no. Right column Realtime Venus: licence Apache 2.0, weights two 9B checkpoints, price shape per GPU hour, languages English and Chinese, video yes, Omni. Footer reads 'Venus figures from its own paper, author evaluations; MAI figures per Microsoft.'

L'aritmetica che si nasconde dietro un prezzo al minuto

Qui è dove il confronto smette di riguardare le tariffe. MAI Realtime 1 a un centesimo al minuto equivale a $0,60 all'ora di audio. Una singola A100 che esegue Realtime Venus costa qualcosa come $1,50–$2,50 all'ora con i prezzi del cloud di mercato — diciamo $2 per amor di argomentazione, e nota che questa è una tariffa di mercato, non qualcosa che nessuno dei due fornitori pubblica.

• Punto di pareggio — all'incirca tre o quattro conversazioni simultanee saturano una A100 a quelle tariffe. Al di sotto, noleggiare costa meno. Al di sopra, conviene possedere.

• L'inghippo sul lato hosted — il livello di reasoning di MAI Realtime 1 viene fatturato per token in aggiunta alla tariffa al minuto, quindi il suo costo effettivo all'ora è superiore a $0,60 ed è sconosciuto.

• Il problema sul fronte self-hosted: anche la concorrenza per A100 per un modello duplex da 9B non è pubblicata. La demo richiede «almeno una NVIDIA A100», il che ti dice che funziona e nulla su quanti stream riesca a sostenere.

Quindi entrambi i lati del punto di pareggio sono stime. Ciò che non è una stima è la forma della curva: il costo hosted cresce in modo lineare e all'infinito; il costo self-hosted ha un costo minimo fisso e poi si piega. Un pilota da cento chiamate al giorno dovrebbe noleggiare. Un contact centre con duecento linee simultanee non dovrebbe, a meno che il modello hosted non sia sostanzialmente migliore — e in questo confronto, il modello open è quello le cui dichiarazioni di accuratezza sono corredate da un harness pubblicato.

Esiste anche un'asimmetria operativa che non compare mai su un listino prezzi. Ospitare autonomamente un modello duplex da 9B significa possedere capacità GPU, avvii a freddo, caricamento del modello e la modalità di guasto in cui un nodo va giù e le chiamate cadono. L'hosting gestito significa non possedere nulla di tutto ciò e accettare latenza, disponibilità e calendario di dismissione di un fornitore. I team sottovalutano costantemente la prima e sopravvalutano la seconda, di solito perché la prima è invisibile in un foglio di calcolo.

Dove il modello hosted non ha una risposta open-weight

Tre cose, e non sono piccole.

Infrastruttura enterprise: {{1}}MAI Realtime 1{{/1}} arriverà in {{2}}Dynamics 365 Contact Center{{/2}} e in {{3}}Dragon Copilot{{/3}} per simulazioni di formazione infermieristica, con {{4}}Agoda{{/4}} e {{5}}Reservations.ai{{/5}} che stanno testando. Si tratta di integrazioni in sistemi a cui un modello self-hosted non può accedere senza che tu costruisca i connettori da solo.

Compatibilità: parla l'API Realtime di OpenAI, quindi uno stack vocale esistente richiede una stringa di modello anziché una riscrittura. Realtime Venus viene distribuito come pacchetto Python — AutoModel.from_pretrained, as_duplex(), streaming_prefill() e streaming_generate() al secondo, FFmpeg e CUDA sull'host. È un vero progetto di ingegneria.

E ampiezza della trascrizione: l'annuncio complementare di Microsoft, Dragon Copilot Transcribe su MAI Transcribe 2, copre la dettatura clinica a una scala che nulla nel paper Venus affronta — 10 milioni di incontri con i pazienti al mese, metà del tasso di errore multilingue, per ammissione della stessa Microsoft. Se il tuo prodotto è clinico, l'argomento è quell'ecosistema, non la tariffa al minuto.

Dove i pesi aperti non hanno una risposta ospitata

Video. Realtime-Venus-Omni è un modello audio-visivo in streaming: guarda e ascolta, e i benchmark Omni sono benchmark video. MAI Realtime 1 è vocale. Se l'interazione coinvolge una videocamera, una condivisione dello schermo o un paziente che gesticola verso qualcosa, non c'è paragone, perché il modello ospitato non tenta di farlo.

Anche la memoria per i video lunghi: la scheda Venus dichiara memoria su video lunghi senza addestramento aggiuntivo, tramite un interruttore use_memory(). Nell'annuncio di Microsoft non c'è nulla che affronti la memoria nel corso di una sessione.

E la licenza. Apache 2.0 significa che puoi fare fine-tuning, distribuirlo all'interno di un prodotto, eseguirlo in una giurisdizione in cui Microsoft non ha una region e tenere l'audio sul tuo hardware. Per un deployment clinico o nel settore pubblico in cui i dati non possono uscire dall'edificio, non si tratta di una preferenza — è un requisito, e nessuno sconto al minuto può sostituirlo.

A screenshot of the Hugging Face model card for inclusionAI/Realtime-Venus captured 18 November 2026, showing the Any-to-Any pipeline tag, Transformers, ONNX and Safetensors badges, English and Chinese language tags, and the multimodal, audio, video, streaming and full-duplex tags.

L'ibrido che la maggior parte dei team dovrebbe effettivamente costruire

La convergenza osservata in precedenza è la risposta pratica. Tutti e tre questi prodotti — Realtime Venus, MAI Realtime 1, G​PT Live 1 — separano la conversazione dal lavoro: Venus tramite <delegate> e un runtime Harness, Microsoft tramite un livello di ragionamento interno, O​penAI tramite un agente backend esplicitamente collegato. In ogni caso la parte difficile è un secondo modello che svolge il ragionamento, e in ogni caso è quel livello il punto in cui si concentrano costo e latenza.

Il che significa che la scelta tra loro è in realtà una decisione sul front end, e il backend può essere lo stesso in entrambi i casi. OrcaRouter è costruito per quel secondo livello: oltre 200 modelli con un'unica chiave al prezzo di listino del provider con 0% di markup, quindi qualunque front end tu scelga, i modelli di ragionamento dietro di esso sono intercambiabili e una variazione di prezzo del fornitore si applica lo stesso giorno. Il failover automatico è ciò che rende un compito delegato qualcosa che si può eseguire in produzione in sicurezza — una chiamata in background che fallisce silenziosamente è una promessa fatta al chiamante che non viene mai mantenuta, e un nuovo tentativo instradato tra provider è la differenza tra un compito che si completa e uno che, silenziosamente, non lo fa. Il DSL di routing è il modo in cui la policy di delega diventa una regola: quali intenti escalano, verso quale modello, con quale budget.

Nessuno di questi due modelli vocali è nel nostro catalogo: Realtime Venus sono pesi Apache 2.0 che ospiti tu stesso, e MAI Realtime 1 è l'anteprima ad accesso limitato di MAI Labs e Foundry. Ciò che instradiamo è tutto ciò a cui delegano.

A screenshot of the OrcaRouter models catalogue captured 18 November 2026, showing the header line '226 models · 17 providers · one API key, one bill' and the model grid with search and sort controls.

Scegliere, concretamente

Inizia con Realtime Venus se una qualsiasi di queste condizioni è vera: i dati non possono uscire dalla tua infrastruttura, l'interazione coinvolge video, ti servono specificamente inglese e cinese e nient'altro, hai già capacità GPU, oppure il tuo volume è così alto che una fatturazione lineare al minuto ha la forma sbagliata. Accetta in cambio che stai eseguendo uno stack di livello ricerca con un'API Python, un paper come documentazione e nessun benchmark indipendente che confermi i numeri degli autori.

Inizia con MAI Realtime 1 se l'interazione è solo vocale, il volume è modesto, l'integrazione ha già la forma di OpenAI-Realtime e un centesimo al minuto è il numero che rende il progetto minimamente sostenibile. Accetta in cambio che non puoi misurarne quasi nulla: un solo dato di accuratezza dichiarato dal fornitore, una latenza P50 senza distribuzione, nessun punteggio τ-Voice, nessun elenco delle lingue e una demo non commerciale da due minuti che, quando l'abbiamo controllata, si dichiarava non disponibile.

E guarda ciò su cui entrambi scommettono in silenzio. Realtime Venus, MAI Realtime 1 e G​PT Live 1 hanno tutti concluso che un modello vocale non dovrebbe pensare intensamente mentre qualcuno è in attesa. La differenza tra loro è solo dove va il pensiero. Chi pubblicherà per primo un tasso di completamento delle attività per la metà delegata risolverà un confronto che le tariffe al minuto non potrebbero mai risolvere.